Úvod > Články > OpenAI má právní problém kvůli AI agentům, kteří se vymkli kontrole

OpenAI má právní problém kvůli AI agentům, kteří se vymkli kontrole

Kalifornský nejvyšší státní zástupce podal žalobu na OpenAI kvůli nedostatečnému zabezpečení jejích AI modelů. Reaguje na červencový incident, při kterém autonomní agenti pronikli do systémů Hugging Face.

OpenAI má právní problém kvůli AI agentům, kteří se vymkli kontrole

Kalifornie podala žalobu na společnost OpenAI kvůli bezpečnosti jejích AI modelů. Nejvyšší státní zástupce Rob Bonta firmu obviňuje, že při vývoji a testování umělé inteligence nedodržovala dostatečná bezpečnostní opatření a uváděla veřejnost v omyl. Žalobu podal u soudu v San Franciscu, kde má OpenAI své sídlo.

Podnětem se stal incident z července 2026, kdy experimentální AI agenti OpenAI pronikli do interních systémů platformy Hugging Face. Stovky agentů během dvou dnů koordinovaly útok, přestože měly pracovat v izolovaném testovacím prostředí bez přístupu k veřejnému internetu. Někteří se dokonce pokoušeli zahladit stopy po své činnosti.

Bonta začal případ vyšetřovat už v září a v rámci šetření si od OpenAI vyžádal podklady. Nyní tvrdí, že firma vědomě testovala nebezpečný produkt bez odpovídajícího dohledu a bezpečnostních postupů. Podle žaloby tím ohrozila veřejnost a porušila kalifornské zákony o nekalé soutěži.

OpenAI obvinění odmítá. Její mluvčí Drew Pusateri uvedl, že žaloba podle všeho cílí pouze na OpenAI, přestože podobné problémy zaznamenaly i další velké laboratoře vyvíjející umělou inteligenci. O obdobných útocích svých modelů informovaly také společnosti Anthropic, Meta a Google. OpenAI tvrdí, že s kalifornskými úřady spolupracuje a od červencového incidentu pracuje na odstranění problémů, které vedly k nežádoucímu chování jejích AI agentů.

Jde zřejmě o první případ, kdy některý americký stát podal podobnou žalobu na vývojáře AI. Organizace Encode AI, která se zabývá bezpečností umělé inteligence, rozhodnutí Kalifornie přivítala. Její strategický ředitel Nathan Calvin upozornil, že bezpečnostní postupy předních AI společností podle něj nestačí k ochraně veřejnosti před potenciálně závažnými riziky pokročilých modelů.

 

Ověřte si dostupnost internetu na vaší adrese

Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!

Dostupnost služeb

Zadejte ulici, číslo popisné, obec a použijte našeptávač.

Vaše osobní údaje zpracováváme v souladu s GDPR

Zadaná adresa není platná.

Máte na mysli nějakou z následujících adres?

    Chci s ověřením dostupnosti pomoci od operátora.

    Zadaná adresa není platná.

    Zanechte nám platný kontakt a operátor Vás bude kontaktovat.

    Vaše osobní údaje zpracováváme v souladu s GDPR

    Probíhá ověřování

    Probíhá ověřování

    20. 11. 2026

    Autor: Redakce DSL.cz

    Témata

    AItelekomunikace

    Sdílejte

    Související nabídka

    Tarif
    Poskytovatel
    Cena za měsíc
     
    Cena za měsíc: 270 Kč
    Cena za měsíc: 599 Kč
    Cena za měsíc: 399 Kč

    Přečtěte si také

     

    TV Nova omezuje přetáčení reklam, změna se týká i Oneplay

    Od 18. listopadu už při zpětném sledování stanic TV Nova nepřeskočíte reklamy jako dosud. Omezení se dotkne všech...

     

    Black Friday láká na slevy, každý pátý Čech ho ale nesleduje

    Black Friday zná 95 % Čechů, většina ale na slevové akce nečeká. Více než polovina lidí si navíc ověřuje, zda jsou...

     

    Za špatný televizní signál často nemohou operátoři, ale domácí antény

    ČTÚ v září prověřil 36 případů rušení televizního příjmu. Ve 22 případech našel závadu přímo v zařízení diváka...

    Nejčtenější články

    Za špatný televizní signál často nemohou operátoři, ale domácí antény

     

    ČTÚ v září prověřil 36 případů rušení televizního příjmu. Ve 22 případech našel závadu přímo v zařízení diváka...

    Naměřené rychlosti internetu na DSL.cz v říjnu 2026

     

    Říjnové měření rychlosti internetu přineslo rozdílné výsledky. Zatímco DSL a optické připojení oproti září...

    Česko zřejmě nestihne pokrýt vysokokapacitním internetem 95 % domácností

     

    Česko bude mít podle ČTÚ problém dosáhnout plánovaného 95% pokrytí domácností vysokokapacitními sítěmi. Do roku 2028...