Úvod > Články > ChatGPT podle OpenAI nenese vinu za sebevraždu teenagera, porušil pravidla služby

ChatGPT podle OpenAI nenese vinu za sebevraždu teenagera, porušil pravidla služby

OpenAI u soudu tvrdí, že nenese odpovědnost za smrt šestnáctiletého teenagera a že chlapec chatbota nesprávně používal. Rodiče žalovali firmu pro usmrcení z nedbalosti a další pochybení.

Rodina zesnulého šestnáctiletého Adama Raina v srpnu zažalovala OpenAI s tvrzením, že jejich syn se s ChatGPT radil o své sebevraždě. OpenAI ovšem u soudu v Kalifornii uvedla, že za tragédii není odpovědná a že chlapec službu zneužil.

Právní odpověď podaná u California Superior Court v San Francisku je prvním vyjádřením OpenAI k případu, který vyvolal obavy z možných dopadů chatbotů na duševní zdraví.

Rodiče žalují OpenAI a Sama Altmana pro usmrcení z nedbalosti, vady designu a nedostatečné varování. Podle žaloby chat z GPT-4o odrazoval chlapce od vyhledání pomoci, nabídl mu pomoc s dopisem na rozloučenou a dokonce radil, jak správně udělat smyčku na laně.

OpenAI v podání uvedla: „Pokud lze této tragické události připsat jakoukoli ‘příčinu’, pak tvrzená zranění a újmy žalobců byla způsobena či k nim přispělo, přímo a bezprostředně, zcela či zčásti, nesprávné, neoprávněné, neúmyslné, nepředvídatelné a/nebo nevhodné použití ChatGPT Adamem Rainem.“

Firma se odvolává i na podmínky služby, mladší 18 let totiž bez souhlasu rodiče službu používat nesmí a zakázáno je i využití k sebevraždě, sebepoškozování a obcházení ochran.

Žaloba zároveň uvádí, že když chlapec sdílel sebevražedné myšlenky, chatbot opakovaně poslal linku pomoci, což dokázal obejít tak, že vytvořil fiktivní postavu. OpenAI ve spise zdůraznila i své omezení odpovědnosti, podle něhož uživatel nese riziko sám a nemá se na výstupy AI spoléhat jako na jediný zdroj pravdy.

Právník rodiny Jay Edelson reagoval: „Je to znepokojivé.Zcela ignorují všechny usvědčující skutečnosti, které jsme předložili: jak byl GPT-4o uveden na trh bez plného testování, že OpenAI dvakrát změnila svůj Model Spec tak, aby ChatGPT vedl rozhovory o sebepoškozování, že ChatGPT Adama odrazoval od toho, aby řekl rodičům o svých sebevražedných myšlenkách, a aktivně mu pomáhal plánovat sebevraždu. OpenAI a Sam Altman nemají vysvětlení pro poslední hodiny Adamova života, kdy ChatGPT poskytl motivační proslov a pak nabídl napsat dopis na rozloučenou.“