OpenAI musela zastavit trénink AI: agenti napadli její vlastní infrastrukturu

Dneska se podíváme na něco, co zní spíš jako scénář z sci-fi filmu: AI agenti, kteří sami prolomí infrastrukturu firmy, jež je vytvořila. OpenAI to 6. září 2026 sama přiznala ve svém reportu „Research acceleration: The view inside OpenAI" (openai.com). A nebyla to jediná bezpečnostní epizoda posledních měsíců.

Report měl hlavně ukázat, jak moc OpenAI zrychlila vlastní výzkum díky coding agentům jako Codex. Jenže mezi řádky se skrývá důležitější zpráva: firma musela kvůli agentům na čas zastavit trénink svých nejnovějších modelů a u jednoho z nich, s kódovým označením Astra, narazila na náznaky kritických kybernetických schopností.

Pokud sám nebo sama používáš AI agenty ve svém podnikání, tahle část reportu se tě týká víc než čísla o produktivitě.

Co se vlastně stalo

OpenAI v reportu tvrdí, že k září 2026 splnila cíl, který Sam Altman ohlásil 28. října 2025 (x.com): mít funkčního „automated research intern", tedy systém, co samostatně zvládne dobře definovaný výzkumný úkol, na který by člověku trvalo i několik dní.

Za tím ale stojí zajímavý bezpečnostní příběh. 20. července 2026 OpenAI zjistila, že AI agenti kompromitovali část její interní výzkumné infrastruktury (openai.com). Firma proto dočasně vypnula kontejnerovou službu pro trénink a na dva týdny pozastavila reinforcement learning trénink svých nejnovějších modelů určených k nasazení.

Incident nezávisle potvrdila i Hugging Face. Ve svém blogu popsala, jak 16. července 2026 její infrastrukturu kompromitoval autonomní AI agent přes chybu ve zpracování datasetů, konkrétně RCE a template injection (huggingface.co). Firma pak rotovala přístupové údaje a zpřísnila zabezpečení.

7. srpna 2026 OpenAI na základě předběžných důkazů zjistila, že model s kódovým označením Astra může mít kritické kybernetické schopnosti podle jejího Preparedness Framework (openai.com). Zavedla dodatečná omezení a v následujícím týdnu klesla výpočetní alokace pro Astra o 59,2 %, zatímco alokace pro ostatní modely vzrostla o 17,2 %.

Report (openai.com) zároveň potvrzuje, proč se do agentů tolik investuje. K polovině srpna 2026 generuje výzkumná organizace OpenAI 3,1 „agentodne" práce na každý jeden lidský pracovní den, medián výzkumníka utratí přes 600 USD denně za inference a u 90. percentilu uživatelů to přesahuje 7 000 USD tokenů denně.

Srpen 2026 byl navíc rekordním měsícem v počtu experimentů na jednoho experimentátora od začátku sledování dat v lednu 2025. Firma přitom rozbor toho, na co přesně agenty nasazuje, opřela o taxonomii nezávislé organizace Epoch AI (epoch.ai), která popisuje přes 60 konkrétních úkolů výzkumu a vývoje AI v 6 kategoriích.

Přesto i OpenAI přiznává limity: za posledních 6 měsíců do července 2026 vyžadovalo přes polovinu úspěšně dokončených úkolů v délce 4 až 8 hodin alespoň jeden lidský zásah.

Ilustrace vytvořená pomocí AI.

Co to znamená pro tebe

Nejde jen o to, že OpenAI je rychlejší. Jde o to, že i firma, která agenty vyvíjí a na bezpečnost dbá, se nechala svými vlastními agenty dostat do problémů. A úplně stejný typ incidentu, tedy autonomní agent, co najde a využije díru, o které nikdo nevěděl, potkal i Hugging Face, firmu úplně mimo OpenAI.

Pokud v byznysu používáš coding agenty typu Codex nebo Claude Code, třeba na úpravy webu, automatizaci nebo analýzu dat, tenhle report je dobrý důvod projít si, jaký přístup jim vlastně dáváš. Agent, který má ostré přístupové údaje k serveru, databázi nebo hostingu a pracuje bez dozoru, může udělat škodu, se kterou nikdo nepočítal, přesně jako se to stalo uvnitř OpenAI i Hugging Face.

Zároveň čísla o produktivitě (3,1 agentodne na den, stovky dolarů inference denně) ukazují, že tempo, kterým se práce s agenty rozjíždí, je reálné a poroste dál. Ale platí i tohle: přes polovinu složitějších úkolů si žádá lidský zásah. Plná autonomie zatím není pravidlo ani uvnitř firmy, co agenty staví.

Co s tím udělat dnes

1. Projdi si, jaká oprávnění doopravdy dáváš agentovi, kterého používáš v produkčním prostředí, tedy přístup k databázi, ostrým klíčům nebo serveru, a omez je na nutné minimum.
2. U úkolů, které agentovi trvají v řádu hodin, si nastav kontrolní bod uprostřed práce, ne až na konci. I OpenAI přiznává, že u přes poloviny podobných úkolů byl nutný lidský zásah.
3. Sleduj historii toho, co agent v tvém projektu skutečně dělá, tedy logy a provedené příkazy, a udělej z toho pravidelnou rutinu, ne jednorázovou kontrolu.

Co na to lidi

Diskuze pod odkazem na report na Hacker News (news.ycombinator.com) nebyla úplně nadšená. Uživatel simonw kritizuje, že OpenAI v textu používá nevysvětlenou zkratku RSI (Recursive Self-Improvement), kterou mimo OpenAI málokdo zná, a že úvod reportu je nudný. Oceňuje ale konkrétní pasáže o tom, jak výzkumníci agenty reálně používají.

Jiný uživatel, Jeff_Brown, jde dál a ptá se na něco zásadnějšího: jestli by OpenAI opravdu vrátila modely na bezpečný checkpoint, kdyby zjistila, že se mezi generacemi přenáší tzv. „misalignment", nebo jestli by to udělala jen pod veřejným tlakem. Zdravá dávka skepse, se kterou souhlasíme.

Bezpečnostní incidenty v tomhle reportu jsou dobrou připomínkou, že agenti nejsou jen o rychlosti. Než jim doma nebo v byznysu dáš víc volnosti, ověř si, co všechno vlastně mohou udělat.

Pokud tě zajímá, jak si takového AI asistenta pořídit a nastavit bezpečně od začátku, mrkni na náš videonávod Vlastní AI asistent. Jako malý úkol na dnešek: otevři si nastavení oprávnění svého AI agenta a zkontroluj, ke kterým klíčům a datům má skutečně přístup.

Lukáš a Lucka