Úvod > Články > Britská komisařka vyzývá k zákazu AI aplikací generujících obrázky nahých dětí

Britská komisařka vyzývá k zákazu AI aplikací generujících obrázky nahých dětí

Britská komisařka Rachel de Souza požaduje úplný zákaz AI nástrojů, které upravují nebo generují obrázky nahých dětí. Technologie podle ní ohrožuje bezpečí i chování dětí online.

Britská komisařka pro děti Rachel de Souza vyzvala místní vládu k okamžitému zákazu AI aplikací, které umožňují upravovat fotografie tak, aby zobrazovaly nahé děti, nebo vytvářet deepfake obrázky s explicitním obsahem.

Komisařka uvedla, že tyto nástroje se dají snadno najít online a často jsou zdarma. I když je vytváření a sdílení explicitních obrázků dětí nelegální, samotné technologie, které to umožňují, legální stále jsou.

„Děti mi řekly, že je děsí už jen samotná existence těchto technologií,“ uvedla de Souza. Děti, zejména dívky, podle ní mění své chování na internetu, aby se chránily před tímto rizikem. Obávají se, že je někdo může zneužít – ať už neznámý člověk, spolužák nebo dokonce kamarád.

„Dívky mi řekly, že raději přestávají sdílet fotky nebo být aktivní online,“ dodala. Podle komisařky neexistuje žádný pozitivní důvod pro existenci těchto aplikací. „Nemají ve společnosti co dělat,“ uvedla ve zprávě a vyzvala vládu, aby aplikace zakázala.

Zároveň požaduje nové zákonné povinnosti pro vývojáře AI nástrojů, které by měly snižovat rizika pro děti. Navrhuje také vytvořit systém pro odstraňování deepfake obrázků s dětmi z internetu a uznat tento typ zneužití jako formu násilí na ženách a dívkách.

Britská vláda uvedla, že vytváření AI obsahu s dětskou pornografií je podle nového zákona trestné. Platformy, které ho neodstraní, mohou čelit vysokým pokutám.