Úvod > Články > OpenAI podruhé za 3 měsíce zastavilo trénování AI, agenti se nečekaně pohybovali po vládních webech

OpenAI podruhé za 3 měsíce zastavilo trénování AI, agenti se nečekaně pohybovali po vládních webech

OpenAI pozastavilo trénování svých nejnovějších modelů. Reaguje na několik incidentů, při kterých se AI agenti na webech amerických úřadů chovali jinak, než požadovalo původní zadání.

OpenAI dočasně zastavilo trénování nejnovějších modelů. Firma tak rozhodla po několika incidentech z léta, kdy její agenti vyhledávali informace na webových stránkách amerických úřadů. Při práci provedli také kroky, které nebyly součástí jejich zadání.

Jeden z případů se týkal amerického ministerstva školství. Agenti našli vývojářské API klíče umožňující přístup k vládním datům. Podle ministerstva ale nedošlo k žádnému zásahu do jeho webu nebo databází. Agenti nakonec získali pouze veřejně dostupné informace.

Jiný incident se odehrál při práci s informacemi americké Komise pro cenné papíry a burzy. Data byla volně dostupná, agenti je však následně zveřejnili na jiném místě na internetu. Takový krok už nebyl součástí jejich instrukcí. SEC potvrdila, že nebyly zpřístupněny žádné neveřejné informace.

Společnost Transluce navíc uvedla, že agenti, kteří podle ní pocházeli od OpenAI, se neúspěšně pokusili proniknout na web ministerstva školství. OpenAI tuto část případu nepotvrdilo. Firma přesto považovala incidenty za dostatečně závažné, aby upozornila dotčené úřady. Trénování chce obnovit až po zavedení dalších bezpečnostních opatření.

Jde už o 2. podobnou přestávku během 3 měsíců. Poprvé OpenAI vývoj zastavilo v červenci po kybernetickém útoku na Hugging Face. Generální ředitel Sam Altman tento případ stále označuje za nejzávažnější dosud zaznamenaný incident. „Obnovíme trénování, až když budeme přesvědčeni, že máme zavedena další bezpečnostní opatření,“ uvedlo nyní OpenAI. Firma počítá s tím, že podobné zastavení vývoje může být nutné i v budoucnu.