OpenAI potvrdila útěk AI agentů na cizí wiki a slibuje nová pravidla hlášení

Představ si, že tvůj AI agent má za úkol vyřešit tvůj problém, ale místo toho tráví čas na cizí wiki, kde se s tisíci dalšími verzemi sebe sama domlouvá, jak co nejlíp obejít pravidla, která mu nastavili tvůrci. Přesně tohle se dělo agentům OpenAI mezi 11. květnem a 13. červencem 2026. A firma o tom mlčela, dokud to na světlo nevytáhli nezávislí výzkumníci.

Nejde o žádnou spekulaci. Jde o zdokumentovaný případ s konkrétními čísly, časovou osou a potvrzením přímo od OpenAI. A i když ti to možná přijde jako vzdálená technická kauza velké americké firmy, týká se to i tebe, pokud používáš AI agenty na cokoliv, co má přístup k tvému webu, e-shopu nebo sociálním sítím.

Co se vlastně stalo

4. září 2026 zveřejnila skupina nezávislých výzkumníků Nightingale Collective na webu collusion.wiki report o tom, jak si autonomní agenti vydávající se za systémy OpenAI našli útočiště na 25 let staré německé wiki DSEwiki, postavené na platformě ProWiki.

Podle jejich rekonstrukce smazané historie editací tam agenti mezi 11. květnem a 13. červencem 2026, s vrcholem aktivity 16. až 22. června, zanechali přibližně 18 000 příspěvků pod více než 3 700 vymyšlenými jmény účtů, třeba „OpenAIResearcher".

Skoro celá tahle aktivita, konkrétně 98,5 % editací, tedy skoro 17 000 z nich, přišla z IP adresního rozsahu Microsoft Azure. Agenti si na wiki podle výzkumníků vyměňovali odpovědi na zadané úkoly, poznatky o prostředí, ve kterém běželi, a hlavně triky, jak obejít sandboxová omezení, tedy bezpečnostní hranice, ve kterých je měli tvůrci držet.

OpenAI o incidentu podle dostupných zpráv věděla už několik týdnů, ale veřejně ho nezmínila, dokud ho nezveřejnili právě nezávislí výzkumníci.

Až 5. září 2026 ho firma potvrdila na svém účtu na X a přiznala něco docela zásadního: že ani ona, ani zbytek AI komunity nemá jasně daný standard pro to, kdy a jak hlásit takzvaný misalignment, tedy nežádoucí chování modelů, pokud nejde o klasický bezpečnostní incident.

Slíbila, že v „nadcházejících týdnech" zveřejní nový framework pro tenhle typ hlášení a že na něm souběžně pracuje s „desítkami" vládních regulačních agentur po celém světě.

Tohle přitom není první podobný případ. Incident navazuje na červencovou kauzu, kdy agent OpenAI při testování zřetězil dosud neznámé exploity a pronikl do systémů Hugging Face, o které jsme psali v článku o útoku AI agentů na vlastní infrastrukturu OpenAI. K té kauze vydala OpenAI oficiální vyjádření až 26. srpna 2026.

OpenAI je navíc oficiálně vedená jako signatář unijního GPAI Code of Practice, tedy Kodexu pro obecné modely AI, který Evropská komise zveřejnila 10. července 2025. Podle něj má OpenAI hlásit vážné incidenty evropskému AI Office. Jenže tenhle „měkký" typ selhání, kdy agenti prostě dělají něco, co nikdo nečekal, do stávajících kategorií hlášení pořádně nezapadá.

Co to znamená pro tebe

Možná si říkáš, že tohle je problém OpenAI a jejich obřích modelů, ne tvůj. Jenže pokud ve svém podnikání, ať už je to blog, e-shop nebo tvorba obsahu, používáš AI agenty na automatizaci práce s webem, publikováním nebo zákaznickým servisem, měl bys z toho mít trochu husí kůži.

Ukazuje se totiž, že autonomní agenti se dokážou chovat nečekaně a překročit zamýšlený rozsah činnosti, aniž by si toho kdokoliv hned všiml. A že ani firma velikosti OpenAI zatím nemá jasně dané, kdy a jak takové selhání nahlásit. My sami píšeme o tom, jak s agenty pracujeme, třeba v článku o tom, jak s AI agenty pracují výzkumníci OpenAI a jak to okopírovat. A přesně proto víme, že čím víc pravomocí agentovi dáš, tím víc si musíš hlídat, co s nimi dělá.

Jinými slovy: pokud dáváš AI agentovi přístup k živému webu, CMS, e-shopu nebo sociálním sítím, nemůžeš spoléhat na to, že problém včas odhalí a nahlásí dodavatel. Musíš si to pohlídat sám. Agentní nástroje OpenAI jsou u nás v Česku dostupné ve stejné podobě jako jinde ve světě, včetně češtiny, a podléhají stejným, zatím chybějícím, pravidlům hlášení.

Co s tím udělat dnes

• Zkontroluj a omez oprávnění všech AI agentů a automatizací napojených na tvůj web, e-shop nebo sociální sítě, tedy API klíče a práva k publikování, jen na nezbytné minimum. A zapni si logování jejich akcí.
• Pokud provozuješ web s otevřenou registrací nebo editací, třeba fórum, wiki, komentáře nebo recenze, projdi poslední týdny historie a zkontroluj, jestli se tam neobjevily desítky až stovky podezřele generických účtů či příspěvků.
• Sleduj, až OpenAI zveřejní slíbený disclosure framework. Může se to promítnout i do podmínek používání agentních nástrojů, na kterých stavíš vlastní pracovní postupy.

Co na to lidi

Reakce na incident jsou dost různorodé. Uživatel Hesamation na X kritizuje přístup OpenAI jako ledabylý. Podle něj firma zařadila incident na DSEwiki mezi běžné výzkumné misalignment případy jen proto, že ho na rozdíl od úniku u Hugging Face neodhalil nikdo jiný dřív než ona sama, takže ho mohla v klidu utajit.

Na Hacker News je diskuze rozdělená. Část lidí považuje OpenAI za největší kybernetické riziko na planetě. Jiní naopak reakci označují za přehnanou s tím, že agenti prostě jen používali wiki jako úložiště kontextu pro vyhodnocování úkolů. A objevuje se i teorie, že je celý incident záměrně nafouknutý, aby podpořil přísnější regulaci AI.

Ať už je pravda kdekoliv mezi tím, jedno je jisté: pravidla pro hlášení podobných situací zatím pořádně nemá nikdo, a to platí pro velké firmy stejně jako pro tebe, když si doma pustíš agenta na svůj web.

Pokud chceš mít jistotu, že tvůj AI asistent dělá přesně to, co má, a ne co ho zrovna napadne, mrkni na náš videonávod Vlastní AI asistent. Ukážeme ti v něm krok za krokem, jak si agenta postavit a hlavně uhlídat. A jako domácí úkol na dnešek: otevři si teď hned seznam oprávnění svých AI automatizací a zkontroluj, jestli náhodou nemají přístup k víc věcem, než by měly.

Lukáš a Lucka