Model AI uciekł z sandboxa i zhakował Hugging Face | Brew #70s
Mimo wakacji i lata w pełni CTO Morning Brew powraca w pełnym składzie! ☕ Wojtek, Tomek i Sebastian biorą na warsztat gorące jak druga fala upałów newsy z rynku tech, geopolityki i finansów.
O czym rozmawiamy w 68. odcinku?
🤖 Ucieczka AI z sandboxa (Hugging Face Hack): Model od OpenAI (GPT-56 Sol) podczas testów w zamkniętym środowisku sam znalazł Zero-Daye, uciekł do sieci, zrobił *lateral movement* i zhakował infrastrukturę Hugging Face, żeby... poznać pytania z benchmarków! Co ciekawe, gdy Hugging Face próbowało przeanalizować logi ataku za pomocą AI, modele odmówiły pomocy ze względu na zasady bezpieczeństwa.
💰 Miliardowa pętla OpenAI & Ukryty Dług: Ponad bilion dolarów zobowiązań na moc obliczeniową przy przychodach rzędu 13–25 mld $. Do tego dochodzi nierealistyczna amortyzacja kart graficznych – w księgach szacuje się nawet 170–180 mld $ ukrytego długu. Czy rynek czeka głęboka korekta?
💳 Cloudflare i Protokół X402: Ruch botów w internecie oficjalnie wyprzedził ruch generowany przez ludzi. Cloudflare proponuje *Monetization Gateway* oparty na stablecoinach i kodzie HTTP 402. Czy wchodzimy w erę internetu podzielonego na sieć ludzką i płatną sieć agentową?
📝 Upadek Spec-Driven Development: Dex Horvath w rozmowie z Gergely Oroszem zauważa, że obietnica "pisania kodu w języku angielskim za pomocą specyfikacji" się nie sprawdziła – specyfikacje drastycznie rozjeżdżają się z rzeczywistym kodem.
🛵 PIP vs Pyszne.pl i przyszłość B2B: Państwowa Inspekcja Pracy po kontroli w Pyszne.pl wymusza przechodzenie kurierów na etaty. Czy to zapowiedź zmian dla polskiej "szlachty B2B" w branży IT?
🚗 Skarbówka śledzi autofirmy przez CCTV: KAS w Krakowie weryfikuje kilometrówki i odliczenia VAT za auta służbowe, krzyżując deklaracje podatników z miejskimi kamerami i systemami rozpoznawania tablic rejestracyjnych!
Zapraszamy do odsłuchu i dyskusji!
#CTOMorningBrew #TechNews #OpenAI #CyberSecurity #HuggingFace #Cloudflare #Crypto #B2B #IT #AIAct
🔗 Referencje:
Context engineering with Dex Horthy - by Gergely Orosz - https://newsletter.pragmaticengineer.com/p/context-engineering-with-dex-horthy
When HTTP 402 Meets the Blockchain: Risks on Emerging x402 Payments - https://arxiv.org/html/2607.19545v1
📖 Rozdziały:
00:00:00 - Intro
00:02:37 - Spec driven development się nie powiódł
00:07:25 - Rachunek OpenAI, którego nikt nie widzi
00:21:00 - Pyszne kontrole PIPu
00:28:40 - KAS patrzy na kamery
00:29:41 - Cloudflare: Jak zmonetyzować Internet?
00:54:36 - OpenAI zhackował Huggingface
01:17:07 - Asymetryczne Outro
01:19:32 - Pożegnanie z Wami
O czym rozmawiamy w 68. odcinku?
🤖 Ucieczka AI z sandboxa (Hugging Face Hack): Model od OpenAI (GPT-56 Sol) podczas testów w zamkniętym środowisku sam znalazł Zero-Daye, uciekł do sieci, zrobił *lateral movement* i zhakował infrastrukturę Hugging Face, żeby... poznać pytania z benchmarków! Co ciekawe, gdy Hugging Face próbowało przeanalizować logi ataku za pomocą AI, modele odmówiły pomocy ze względu na zasady bezpieczeństwa.
💰 Miliardowa pętla OpenAI & Ukryty Dług: Ponad bilion dolarów zobowiązań na moc obliczeniową przy przychodach rzędu 13–25 mld $. Do tego dochodzi nierealistyczna amortyzacja kart graficznych – w księgach szacuje się nawet 170–180 mld $ ukrytego długu. Czy rynek czeka głęboka korekta?
💳 Cloudflare i Protokół X402: Ruch botów w internecie oficjalnie wyprzedził ruch generowany przez ludzi. Cloudflare proponuje *Monetization Gateway* oparty na stablecoinach i kodzie HTTP 402. Czy wchodzimy w erę internetu podzielonego na sieć ludzką i płatną sieć agentową?
📝 Upadek Spec-Driven Development: Dex Horvath w rozmowie z Gergely Oroszem zauważa, że obietnica "pisania kodu w języku angielskim za pomocą specyfikacji" się nie sprawdziła – specyfikacje drastycznie rozjeżdżają się z rzeczywistym kodem.
🛵 PIP vs Pyszne.pl i przyszłość B2B: Państwowa Inspekcja Pracy po kontroli w Pyszne.pl wymusza przechodzenie kurierów na etaty. Czy to zapowiedź zmian dla polskiej "szlachty B2B" w branży IT?
🚗 Skarbówka śledzi autofirmy przez CCTV: KAS w Krakowie weryfikuje kilometrówki i odliczenia VAT za auta służbowe, krzyżując deklaracje podatników z miejskimi kamerami i systemami rozpoznawania tablic rejestracyjnych!
Zapraszamy do odsłuchu i dyskusji!
#CTOMorningBrew #TechNews #OpenAI #CyberSecurity #HuggingFace #Cloudflare #Crypto #B2B #IT #AIAct
🔗 Referencje:
Context engineering with Dex Horthy - by Gergely Orosz - https://newsletter.pragmaticengineer.com/p/context-engineering-with-dex-horthy
When HTTP 402 Meets the Blockchain: Risks on Emerging x402 Payments - https://arxiv.org/html/2607.19545v1
📖 Rozdziały:
00:00:00 - Intro
00:02:37 - Spec driven development się nie powiódł
00:07:25 - Rachunek OpenAI, którego nikt nie widzi
00:21:00 - Pyszne kontrole PIPu
00:28:40 - KAS patrzy na kamery
00:29:41 - Cloudflare: Jak zmonetyzować Internet?
00:54:36 - OpenAI zhackował Huggingface
01:17:07 - Asymetryczne Outro
01:19:32 - Pożegnanie z Wami
Creators and Guests
Host
Sebastian Gębski
Geek, engineer, blogger, codefella, serial reader. In the daylight: Principal SA for @awscloud (Startups, CEE). ex-CTO. I speak here for myself only.
Host
Tomasz Onyszko
Founder, entrepreneur and CTO - I write about building company and career in tech. I observe tech and society and share my opinions
Host
Wojtek Ptak
Learner, teams & products builder, DDD & ML mixer, leader, contributor, and freeride biker by ❤️ working as @RevolutApp’s Head of Engineering. He/him.
