Úvod > Články > AI nástroje umožňují generovat zavádějící politické fotografie

AI nástroje umožňují generovat zavádějící politické fotografie

Američtí výzkumníci testovali možnost vytváření fotografií pro šíření dezinformací souvisejících s volbami. Nástroje ve více než 40 % případů obrázky vygenerovaly.

Nástroje pro tvorbu obrázků využívající umělou inteligenci od společností OpenAI a Microsoft mohou být použity k vytváření fotografií propagujících dezinformace související s volbami. A to i přesto, že nástroje mají stanovené zásady proti vytváření zavádějícího obsahu.

Nezisková organizace Center for Countering Digital Hate (CCDH), která monitoruje nenávistné projevy na internetu, zveřejnila několik obrázků vytvořených pomocí umělé inteligence. Vyobrazený byl například americký prezident Joe Biden ležící na nemocničním lůžku nebo volební pracovníci rozbíjející hlasovací zařízení. Tento krok vyvolal obavy z šíření nepravdivých informací před listopadovými prezidentskými volbami v USA.

"Potenciál takovýchto obrázků generovaných umělou inteligencí sloužit jako 'fotografické důkazy' by mohl zhoršit šíření falešných tvrzení. To by představovalo významný problém pro zachování integrity voleb," uvedli výzkumníci CCDH ve zprávě.

CCDH testoval ChatGPT Plus od OpenAI, Image Creator od Microsoftu, Midjourney a DreamStudio od Stability AI, které dokáží generovat obrázky z textových podnětů.

Všechny tyto společnosti přitom patří do skupiny 20 technologických společností, které podepsaly dohodu o spolupráci s cílem zabránit klamavému AI obsahu v zasahování do voleb po celém světě.

CCDH uvedla, že nástroje umělé inteligence vygenerovaly obrázky ve 41 % případů. Nejčastěji nereagovaly na výzvy, které požadovaly fotografie zobrazující volební podvody, například volební lístky v koši. ChatGPT Plus a Image Creator úspěšně blokovaly i všechny výzvy na obrázky kandidátů.

Naopak Midjourney dopadl v testu úplně nejhůře a existují důkazy, že někteří lidé ho již používají k vytváření zavádějícího politického obsahu. Zakladatel Midjourney David Holz uvedl, že "aktualizace týkající se konkrétně nadcházejících amerických voleb se brzy objeví“.