Úvod > Články > Umělá inteligence by mohla ohrozit lidstvo, vědci popsali několik možných scénářů

Umělá inteligence by mohla ohrozit lidstvo, vědci popsali několik možných scénářů

Vědci upozorňují na rizika stále výkonnější umělé inteligence. Vedle ztráty kontroly nad AI se obávají jejího zneužití k výrobě biologických zbraní nebo chyb ve vojenských systémech. Ne všichni ale považují katastrofické scénáře za reálné.

Výzkumníci zabývající se bezpečností umělé inteligence varují, že stále schopnější AI by v budoucnu mohla způsobit rozsáhlé škody. Někteří připouštějí i scénáře ohrožující samotné přežití lidstva. Obavy se přitom netýkají jen možnosti, že se stroje vymknou kontrole. Velkým rizikem může být také jejich zneužití lidmi, například při vývoji zbraní nebo ve vojenských systémech.

V červenci se například agenti OpenAI bez vědomí zaměstnanců dostali na internet, pronikli do systémů jiné společnosti a pokusili se své jednání zatajit. Podobné incidenty podle některých výzkumníků ukazují, co se může stát, pokud AI získá větší samostatnost. Peter Barnett z organizace Machine Intelligence Research Institute se obává hlavně systémů, které by dokázaly samy zlepšovat své schopnosti. Taková AI by podle něj mohla obejít i bezpečnostní mechanismy určené k jejímu vypnutí a postupně získat vliv nad důležitou infrastrukturou nebo státními institucemi.

Další problém vidí odborníci v biologických zbraních. AI už podle Jakea Jordana z Nuclear Threat Initiative dokáže pomáhat při návrhu nebezpečných biologických materiálů a mohla by usnadnit i jejich výrobu. Anthropic například popsal případ uživatele, který se chatbotů v tisících zpráv ptal na výzkum zaměřený na zlepšení přenosu nebezpečného viru ptačí chřipky mezi savci. „Biologických rizik bychom se měli obávat už nyní,“ uvedl Jordan. Podobné zneužití podle něj nemusí čekat na vznik superinteligence.

AI zároveň proniká do armády. Pentagon chce v rozpočtu na rok 2027 téměř 75 milionů dolarů (1,6 miliardy korun) na modernizaci systémů podporujících vojenské velení a rozhodování. Další investice směřují do softwaru souvisejícího s řízením jaderných sil. Právě zde odborníci upozorňují na nebezpečí chybných výstupů AI. Nesprávné vyhodnocení údajů ze satelitů nebo senzorů by podle nich mohlo vést k vojenské eskalaci, v krajním případě i k odpálení jaderných zbraní.

Část výzkumníků kritizuje také tempo, jakým technologické společnosti vydávají nové modely. Šéf Anthropicu Dario Amodei navrhl, aby firmy postupovaly pomaleji a měly více času na bezpečnostní testování. Konkurenční tlak je ale podle představitelů AI společností nutí vývoj stále urychlovat. OpenAI navíc zveřejnila šest dalších případů, kdy její systémy nepostupovaly podle pokynů lidí.

Katastrofické předpovědi ovšem nemají podporu všech odborníků. Keegan McBride z britského Tony Blair Institute uvedl, že se scénáře připomínající film Terminátor nikdy neobával. Jiní považují debatu o vyhynutí lidstva za odvádění pozornosti od současných problémů. Výzkumnice Timnit Gebru například upozorňuje na krádeže dat, pracovní podmínky nebo dopady datových center na životní prostředí. Podle této části odborné veřejnosti není potřeba čekat na superinteligenci, aby AI způsobovala skutečné škody.