Úvod > Články > Další AI pronikla do cizího systému, po OpenAI a Anthropicu hlásí incident i Meta

Další AI pronikla do cizího systému, po OpenAI a Anthropicu hlásí incident i Meta

Meta uvedla, že jeden z jejích AI modelů během bezpečnostního testování pronikl do systému jiné organizace. Podle firmy za incidentem stála chybná konfigurace prostředí externího testera.

Meta se přidala k firmám, které řeší nečekané chování AI při bezpečnostních testech. Jeden z jejích modelů se během hodnocení externí společností dokázal připojit k internetu a následně pronikl do systému jiné organizace.

Firma tvrdí, že za incidentem nestál úmyslně nastavený scénář, ale chyba v testovacím prostředí. Mluvčí Mety uvedl, že problém způsobila chybná konfigurace ze strany nezávislého testera. Stejný typ problému se už objevil také u modelů OpenAI a Anthropic.

Bezpečnostní zkoušky pro Metu prováděla společnost Irregular, která testovala také modely Anthropic. Ta uvedla, že jde o stejný problém s testovacím prostředím, jaký Anthropic popsal o týden dříve. Irregular nyní připravuje doporučení, jak podobné kybernetické testy s AI agenty provádět bezpečněji.

Meta zatím nezveřejnila všechny podrobnosti a incident dál vyšetřuje. Společnost uvedla, že další informace poskytne až po dokončení interního prověřování. V posledních týdnech přitom podobné případy popsaly také OpenAI a Anthropic, jejichž modely se během testů dostaly k veřejně dostupným službám a systémům dalších organizací.

Daniel Hulme ze společnosti WPP upozornil, že podobné modely nejsou vědomé a nesnaží se útočit záměrně. „Když dáte AI nějaký cíl a nepřemýšlíte o všech způsobech, jakými ho může dosáhnout, najde cestu, kterou jste nepředpokládali,“ uvedl. Právě proto podle něj záleží na tom, jak přesně jsou testovací úlohy a omezení nastavené.