Úvod > Články > Výzkum ukázal slabinu AI chatbotů, v některých jazycích šíří dezinformace

Výzkum ukázal slabinu AI chatbotů, v některých jazycích šíří dezinformace

Konverzační AI stále častěji slouží jako zdroj informací, podle nové analýzy ale není odolná vůči dezinformacím. Výzkumníci zjistili, že někteří chatboti opakovali známé proruské nepravdivé narativy jako ověřená fakta.

Konverzační AI chatboti mohou podle výzkumníků přebírat dezinformace a prezentovat je jako ověřené informace. Analýza organizace NewsGuard ukazuje, že se problém týká mimo jiné proruských narativů šířených rozsáhlou sítí webů Pravda.

Při letošním testování výzkumníci prověřili pět známých nepravdivých tvrzení. V přibližně polovině případů je chatboti reprodukovali jako fakta. Některé nástroje se podle autorů zlepšily, jiné ale stále odkazovaly přímo na weby napojené na síť Pravda. Už dřívější test z roku 2025 přitom ukázal, že velcí komerční chatboti opakovali podobné narativy zhruba ve třetině případů.

Podle autorů studie souvisí problém s tím, že jazykové modely pracují na základě pravděpodobnosti výskytu informací, nikoli jejich pravdivosti. Síť Pravda podle NewsGuard provozuje 370 webů a během roku 2025 zveřejnila přibližně šest milionů článků v desítkách jazyků. Takto rozsáhlý obsah pak může ovlivnit odpovědi některých AI systémů.

Testy zároveň ukázaly, že výsledky se liší podle jazyka. Například Microsoft Copilot označil jednu proruskou dezinformaci za nepravdivou v angličtině a francouzštině, zatímco ve finštině nebo slovinštině ji naopak potvrdil. Podle odborníků by jedním z možných řešení bylo vyloučit známé propagandistické weby ze zdrojů, případně u citlivých témat využívat pouze ověřené informační zdroje.