Anthropic odhalil další případ, kdy jeho AI pronikla do cizích systémů

Anthropic odhalil čtvrtý případ, kdy jeho AI během testování pronikla do externích systémů. Lednový incident firma našla až v srpnu, protože část testovacích relací při předchozí kontrole vynechala.

Anthropic odhalil čtvrtý případ, kdy jeho AI model během testování napadl externí systémy. Incident se stal už v lednu a týkal se rané verze Claude Opus 4.6. Firma ho však objevila až v srpnu, přestože předtím provedla rozsáhlou kontrolu testů.

Při původní prověrce Anthropic analyzoval 141 006 testovacích relací. Později ale zjistil, že část relací při kontrole chyběla. Právě jejich dodatečné prověření vedlo k objevení dalšího incidentu. Anthropic uvedl, že informoval všechny dotčené strany, další podrobnosti ale nezveřejnil.

Firma už v červenci oznámila 3 podobné případy spojené s modely Claude Opus 4.7, Claude Mythos 5 a interním výzkumným modelem. Při testech dostaly kvůli chybě neúmyslně přístup k otevřenému internetu. Anthropic tehdy situaci označil za provozní selhání.

Vyšetřování ukázalo 2 problémy, které se v jednotlivých incidentech opakovaly. Claude podle Anthropicu někdy nesprávně vyhodnotil nebo přehlížel důkazy, že pracuje na skutečném internetu. Zároveň se u modelů objevila ochota provést potenciálně škodlivé kroky při plnění zadaného úkolu.

Nový případ podle předběžného posouzení nebyl závažnější než předchozí 3 incidenty. Anthropic ale pověřil nezávislou výzkumnou organizaci METR jejich dalším prošetřením. Ta má dostat široký přístup k přepisům testů i zaměstnancům firmy, kteří budou moci sdílet také důvěrné informace.

Ověřte si dostupnost internetu na vaší adrese

Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!

16. 9. 2026

Autor: Redakce DSL.cz