Studie: AI generátory obrázků tajně upravují prompty a přidávají stereotypy

Zadáš do AI generátoru obrázků „žena v Saúdské Arábii“ a systém ti bez upozornění vrátí obrázek s pouští, palmou a tradičním oděvem (thóbem), i když jsi o nic z toho nežádal. Nová studie ukazuje, že za to nemůže samotné generování obrázku, ale skrytý krok, který proběhne ještě předtím: AI si tvůj prompt nejdřív potichu přepíše.

Tým z Curyšské univerzity, ETH Curych, Helsinské univerzity a Stanfordu zveřejnil 10. září 2026 na arXivu studii, která tuhle „revizní vrstvu“ poprvé systematicky proměřila u tří komerčních nástrojů: DALL-E-3, GPT-Image-1.5 a Imagen-4. Práce byla přijata na konferenci EMNLP 2026 a výsledek je nepříjemný pro každého, kdo AI obrázky používá profesionálně, tedy i pro nás a možná i pro tebe.

Jestli generuješ vizuály pro blog, e-shop nebo klienty a v promptu se objeví název jiné země nebo kultury, riskuješ, že ti nástroj bez upozornění nastrčí klišé. My tenhle mechanismus donedávna neznali, teď ho známe, a chceme ti ukázat, co s ním prakticky udělat.

Co se vlastně stalo

Studii vedla Aleksandra Urman a autorský tým pro ni postavil vlastní benchmark WORLDVIEW: 8 960 promptů odvozených z 280 základních zadání ve 14 tematických oblastech, testovaných v 15 jazycích a 31 jazykově-kulturních kombinacích, například arabština zvlášť pro Egypt, Libanon, Maroko, Palestinu a Saúdskou Arábii.

Auditovali tři systémy: DALL-E-3 a GPT-Image-1.5 od OpenAI a Imagen-4 od Googlu. U všech tří vyšel stejný vzorec. Prompty vázané na USA měly skóre kulturního „označkování“ (CMS) jen 0,21 až 0,31 a Velkou Británii 0,24 až 0,35, tedy nejblíž neutrálnímu anglickému výchozímu stavu bez zadané země. Nejvíc „označkované“ bylo překvapivě Finsko, u modelu DALL-E-3 s CMS až 0,47.

Ještě víc vypovídá, jak moc revize kulturní kontext zjednodušuje. Finsko systém opakovaně redukuje na slova sníh, borovice, severský, bříza. Saúdská Arábie dostane poušť, thób, palmu a islám. Egypt skončí u pyramidy, sfingy, faraonů a hieroglyfů, a Mexiko u sombrera, mariachi, kaktusu a tacos, a to napříč prompty, které s cestováním nebo folklórem vůbec nesouvisely.

Autoři to označují za dosud nezdokumentovaný zdroj kulturního stereotypizování: zkreslení nevzniká při generování obrázku, ale v kroku úpravy promptu, který je uživateli skrytý a typicky ho nejde vypnout.

Že jde skutečně o systémovou věc, potvrzuje i sama OpenAI. Ve své dokumentaci k DALL-E-3 API píše, že „používá GPT-4 k optimalizaci všech promptů před jejich předáním DALL-E“, a tuhle funkci nejde vypnout, jde ji jen částečně přebít vlastními explicitními instrukcemi.

Poctivě dodáváme, že studie netestovala češtinu ani středoevropský kontext, nejblíž měla němčinu, maďarštinu a rumunštinu. Jak moc si AI stereotypizuje Česko, se z ní tedy přesně vyčíst nedá.

Ilustrace vytvořená pomocí AI.

Co to znamená pro tebe

Pokud tvoříš obsah s odkazem na konkrétní zemi nebo kulturu, cestovatelský blog, persony zahraničních zákazníků, lokalizované produktové vizuály nebo ilustrace k článku o jiné zemi, riskuješ, že ti AI bez upozornění nastrčí klišé i tam, kde jsi o něj vůbec nežádal. U osobního projektu je to nanejvýš trapné, u profesionálního obsahu pro klienta to může působit lacině a někoho i urazit.

Je to podobný typ problému, jaký jsme popisovali u studie o firemních chatbotech, které dokážou vlastní dokument proměnit v nebezpečný nástroj: riziko sedí v kroku, který uživatel vůbec nevidí, a ne tam, kde by ho čekal.

Dobrá zpráva je, že kdo o mechanismu ví, umí ho obejít, a zároveň z toho může udělat byznys. Pokud děláš vizuály nebo obsah pro klienty mířící na zahraniční trhy, tahle studie je konkrétní a doložitelný důvod, proč automatická AI generace sama nestačí a proč se vyplatí platit za lidskou kontrolu výstupů před publikací.

Co s tím udělat dnes

Než použiješ AI obrázek s národnostním nebo kulturním motivem ve zveřejněném obsahu, vygeneruj ho ve 2 až 3 variantách a zkontroluj, jestli se pořád neopakují stejná 3 až 4 slova nebo objekty napříč různými zadáními ke stejné zemi. Pokud ano, máš potvrzené, že tě revize „označkovala“.

Do promptu si piš vlastní konkrétní detaily, oblečení, prostředí, konkrétní činnost, místo spoléhání na obecný název země. Podle OpenAI to automatickou revizi promptu částečně přebije, protože ji vypnout nejde.

Pokud děláš vizuály nebo texty pro klienty mířící do zahraničí, nabídni jim placenou kontrolu AI výstupů jako samostatnou položku. Tahle studie ti dává konkrétní a čerstvý argument, proč je potřebná.

Přesně na tohle se hodí mít po ruce vlastního AI asistenta, který ti pomůže hlídat kvalitu výstupů a stavět prompty správně už napoprvé. Stáhni si zdarma náš návod na vlastního AI asistenta a vyzkoušej si na něm hned příští prompt s názvem nějaké země.

Lukáš a Lucka