Úvod > Články > OpenAI spouští model pro odhadování věku uživatelů ChatGPT

OpenAI spouští model pro odhadování věku uživatelů ChatGPT

OpenAI spouští model pro odhad věku uživatelů ChatGPT, který má odhalit účty osob mladších 18 let. Systém automaticky omezí citlivý obsah a přizpůsobí další ochranná opatření.

Společnost OpenAI oznámila, že začíná nasazovat model pro odhad věku uživatelů v rámci spotřebitelských verzí ChatGPT. Cílem je lépe identifikovat účty, které patří osobám mladším 18 let, a přizpůsobit jim ochranná opatření.

Model podle firmy využívá kombinaci signálů na úrovni účtu a chování uživatele. Patří mezi ně například dlouhodobé vzorce používání, stáří účtu, obvyklé denní doby aktivity nebo věk, který uživatel sám uvedl.

Pokud systém vyhodnotí, že účet pravděpodobně patří nezletilému, ChatGPT automaticky zapne ochrany, jejichž cílem je omezit vystavení citlivému obsahu, například materiálům zobrazujícím sebepoškozování.

V případě chybného zařazení bude mít uživatel možnost obnovit plný přístup pomocí ověření identity přes službu Persona. Tu využívají i další technologické firmy, například Roblox.

OpenAI v posledních měsících představila několik bezpečnostních novinek. Čelí totiž rostoucímu dohledu ze strany úřadů, zejména pokud jde o ochranu dětí a dospívajících. Americká FTC prověřuje dopady AI chatbotů na mladé uživatele a OpenAI je zároveň jmenována v několika soudních sporech, včetně případu týkajícího se sebevraždy dospívajícího chlapce.

Firma už dříve oznámila zavedení rodičovských nástrojů a vytvoření expertní skupiny, která se zabývá dopady AI na duševní zdraví. Podle OpenAI se bude přesnost modelu pro odhad věku postupně zlepšovat a v Evropské unii se začne nasazovat v následujících týdnech s ohledem na regionální regulace.