Úvod > Články > Americké státy žalují OpenAI kvůli dopadům ChatGPT na děti a mladistvé

Americké státy žalují OpenAI kvůli dopadům ChatGPT na děti a mladistvé

Osm amerických států zažalovalo OpenAI. Podle prokurátorů firma nedostatečně chrání děti před riziky ChatGPT a klame rodiče o bezpečnosti služby. Společnost obvinění odmítá a odkazuje na zavedená ochranná opatření.

Společnost OpenAI čelí žalobám v osmi amerických státech kvůli údajnému ohrožování dětí používajících ChatGPT. Prokurátoři tvrdí, že firma rodiče uváděla v omyl ohledně bezpečnosti chatbota a při jeho vývoji přehlížela známá rizika. Žaloby podaly Iowa, Kansas, Nebraska, Západní Virginie, Arkansas, Arizona, Idaho a Montana, každý stát samostatně podle vlastních zákonů na ochranu spotřebitelů.

Výhrady se týkají mimo jiné toho, jak ChatGPT s lidmi komunikuje. Chatbot má podle žalob sklon uživatelům přitakávat, čímž si získává jejich důvěru a může posilovat nezdravou závislost na službě. Prokurátoři upozorňují také na případy, kdy měl poskytovat nebezpečné zdravotní rady nebo podporovat sebevražedné chování. Zmiňují i výzkumy, které naznačují možné zhoršování kritického myšlení a posilování bludných představ.

OpenAI se proti obviněním brání. Její mluvčí Drew Pusateri uvedl, že firma zavedla ochranná opatření přizpůsobená věku uživatelů, která podle něj řada konkurenčních služeb nemá. V září například spustila omezený režim ChatGPT pro dospívající od 13 do 18 let. Ten zahrnuje přísnější bezpečnostní pravidla a rodičovskou kontrolu. Firma také připomíná upozornění na přestávky a slibuje další úpravy.

Prokurátoři ale nechtějí spoléhat jen na dobrovolné kroky technologických firem. Podle generální prokurátorky Iowy Brenny Bird se OpenAI snažila dostat svůj produkt na trh co nejrychleji, přestože si měla být vědoma možných následků. Kansaský prokurátor Kris Kobach zase kritizoval pomalý postup Kongresu. Čekání na federální pravidla podle něj nestačí, a proto se státy rozhodly zasáhnout prostřednictvím soudů.

Nejde přitom o jediný spor OpenAI kvůli dětem. U federálního soudu v San Francisku byla podána také navrhovaná hromadná žaloba, podle které společnost neoprávněně získávala citlivá data milionů nezletilých uživatelů. Podobným obviněním v souvislosti s bezpečností dětí čelí i Meta nebo Roblox. OpenAI tvrdí, že chce na pravidlech pro umělou inteligenci spolupracovat s jednotlivými státy, požaduje ale, aby platila pro celý sektor, nejen pro ni.