Američtí výzkumníci testovali možnost vytváření fotografií pro šíření dezinformací souvisejících s volbami. Nástroje ve více než 40 % případů obrázky vygenerovaly.

Nástroje pro tvorbu obrázků využívající umělou inteligenci od společností OpenAI a Microsoft mohou být použity k vytváření fotografií propagujících dezinformace související s volbami. A to i přesto, že nástroje mají stanovené zásady proti vytváření zavádějícího obsahu.
Nezisková organizace Center for Countering Digital Hate (CCDH), která monitoruje nenávistné projevy na internetu, zveřejnila několik obrázků vytvořených pomocí umělé inteligence. Vyobrazený byl například americký prezident Joe Biden ležící na nemocničním lůžku nebo volební pracovníci rozbíjející hlasovací zařízení. Tento krok vyvolal obavy z šíření nepravdivých informací před listopadovými prezidentskými volbami v USA.
"Potenciál takovýchto obrázků generovaných umělou inteligencí sloužit jako 'fotografické důkazy' by mohl zhoršit šíření falešných tvrzení. To by představovalo významný problém pro zachování integrity voleb," uvedli výzkumníci CCDH ve zprávě.
CCDH testoval ChatGPT Plus od OpenAI, Image Creator od Microsoftu, Midjourney a DreamStudio od Stability AI, které dokáží generovat obrázky z textových podnětů.
Všechny tyto společnosti přitom patří do skupiny 20 technologických společností, které podepsaly dohodu o spolupráci s cílem zabránit klamavému AI obsahu v zasahování do voleb po celém světě.
CCDH uvedla, že nástroje umělé inteligence vygenerovaly obrázky ve 41 % případů. Nejčastěji nereagovaly na výzvy, které požadovaly fotografie zobrazující volební podvody, například volební lístky v koši. ChatGPT Plus a Image Creator úspěšně blokovaly i všechny výzvy na obrázky kandidátů.
Naopak Midjourney dopadl v testu úplně nejhůře a existují důkazy, že někteří lidé ho již používají k vytváření zavádějícího politického obsahu. Zakladatel Midjourney David Holz uvedl, že "aktualizace týkající se konkrétně nadcházejících amerických voleb se brzy objeví“.
Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!
Zadejte ulici, číslo popisné, obec a použijte našeptávač.
Máte na mysli nějakou z následujících adres?
Chci s ověřením dostupnosti pomoci od operátora.
Zanechte nám platný kontakt a operátor Vás bude kontaktovat.

15. 3. 2024
Autor: Redakce DSL.cz
Kalifornský nejvyšší státní zástupce podal žalobu na OpenAI kvůli nedostatečnému zabezpečení jejích AI modelů...
Od 18. listopadu už při zpětném sledování stanic TV Nova nepřeskočíte reklamy jako dosud. Omezení se dotkne všech...
Black Friday zná 95 % Čechů, většina ale na slevové akce nečeká. Více než polovina lidí si navíc ověřuje, zda jsou...
ČTÚ v září prověřil 36 případů rušení televizního příjmu. Ve 22 případech našel závadu přímo v zařízení diváka...
Říjnové měření rychlosti internetu přineslo rozdílné výsledky. Zatímco DSL a optické připojení oproti září...
Česko bude mít podle ČTÚ problém dosáhnout plánovaného 95% pokrytí domácností vysokokapacitními sítěmi. Do roku 2028...