Úvod > Články > Claude AI začne do generovaného textu přidávat neviditelný vodoznak

Claude AI začne do generovaného textu přidávat neviditelný vodoznak

Anthropic začne do textů generovaných chatbotem Claude přidávat neviditelný vodoznak. Firma reaguje na evropská pravidla a vysvětlila, jak bude označení fungovat a kdy může zmizet.

Společnost Anthropic začne označovat text generovaný chatbotem Claude pomocí neviditelného vodoznaku. Změnu zavádí kvůli Kodexu transparentnosti evropského aktu o umělé inteligenci, který požaduje snadnou identifikaci obsahu vytvořeného AI.

Claude bude při volbě mezi několika stejně vhodnými slovy vytvářet v odpovědích specifický vzorec. Pro čtenáře má být nepostřehnutelný, ale rozpoznat ho bude možné pomocí klíče, který tento vzorec kóduje. Anthropic tvrdí, že označení neovlivní kvalitu výstupu.

Firma využije technologii SynthID Text, kterou tým Google DeepMind představil v roce 2024. Anthropic zároveň plánuje vydat API pro detekci vodoznaků. Nejde přitom o běžnou detekci AI textu podle typických slovních obratů, ale o kontrolu konkrétního vzorce vloženého při generování.

Vodoznak nemusí zůstat zachován navždy. Lehké úpravy ho pravděpodobně úplně neodstraní, kompletní přepsání každého slova už ano. U textu, který Claude pouze zkontroluje nebo mírně upraví, bude výsledek záviset na jeho délce a rozsahu zásahů.

U programovacího kódu bude vodoznak výrazně omezenější, protože model nemá při tvorbě funkčního kódu tolik možností volby. Anthropic ho může využít například v komentářích nebo na místech, kde lze vybírat mezi různými výrazy. Na samotný vytvořený kód má mít zanedbatelný vliv.

Anthropic zároveň upozornil, že Claude nemá být jediným chatbotem s vodoznaky. Stejný kodex podepsali i další významní vývojáři AI modelů, kteří mají zavést vlastní způsoby označování generovaného textu.