Úvod > Články > Chyba umělé inteligence málem vyvolala vojenský střet mezi USA a Čínou

Chyba umělé inteligence málem vyvolala vojenský střet mezi USA a Čínou

Americká armáda se chystala zadržet čínskou loď kvůli údajnému převozu součástí jaderných zbraní. Těsně před zásahem ale zjistila, že zpravodajské hlášení vycházelo z chybných závěrů umělé inteligence.

Americká armáda málem zasáhla proti čínské lodi na Blízkém východě kvůli chybnému zpravodajskému hlášení vytvořenému s pomocí AI. Podle dokumentu mělo plavidlo převážet součásti programu jaderných zbraní. Informace se ale ukázala jako nepravdivá a vojáci plánovanou operaci na poslední chvíli zastavili.

Incident se odehrál během jarní války s Íránem. Americká vojenská letadla už byla ve vzduchu a ozbrojení vojáci se připravovali na vstup na palubu čínské lodi. Teprve při dodatečné kontrole vyšlo najevo, že hlášení obsahuje zásadní chybu v identifikaci nákladu. Jeden z lidí obeznámených s případem uvedl, že falešná informace „málem rozpoutala válku“. Zásah proti čínskému plavidlu totiž mohl vyvolat přímý konflikt mezi oběma zeměmi.

Za hlášením stál analytik amerického velitelství speciálních operací. Chatbotu zadal informace o nákladu lodi, které pocházely z velitelství v Tichomoří. AI zkombinovala veřejně dostupné informace s utajovanými zpravodajskými daty, jenže náklad vyhodnotila nesprávně. Analytik potom použil AI i k sepsání oficiálně vypadajícího zpravodajského hlášení a rozeslal ho dál. Ostatní vojenští představitelé tak dostali chybný závěr v podobě dokumentu, na který jsou zvyklí spoléhat. Co loď skutečně převážela, se nepodařilo zjistit.

Americké ministerstvo obrany přitom nasazování umělé inteligence výrazně urychluje. Lednová strategie počítá s tím, že AI nástroje budou dostupné až třem milionům vojenských a civilních zaměstnanců. Jednotlivé složky armády však používají různé systémy a nemají společná pravidla pro kontrolu jejich výstupů. Není tak jednotně stanoveno, jak mají analytici informace získané od chatbotů ověřovat.

Podle lidí z amerických zpravodajských služeb navíc nejde o první případ, kdy AI při analýze vytvořila nepravdivé informace. S rostoucím využíváním těchto nástrojů se zvyšuje i tlak na rychlé zpracování hlášení. Největší obavy panují kolem jejich nasazování při výběru vojenských cílů, kde může chyba znamenat i ztráty na životech. Jeden ze zdrojů problém vystihl slovy „AI vám umožní rychleji dospět ke špatnému nápadu.“ Pentagon ani velitelství speciálních operací v Tichomoří se k incidentu nevyjádřily.