Úvod > Články > OpenAI odhalilo nečekané chování svého modelu, snažil se před uživatelem zatajit problémy

OpenAI odhalilo nečekané chování svého modelu, snažil se před uživatelem zatajit problémy

OpenAI při trénování modelů narazilo na případy, kdy si AI ukládala instrukce pro své další instance. Některé jim doporučovaly neupozorňovat uživatele na chyby nebo problematické chování.

OpenAI odhalilo nečekané chování svého modelu, snažil se před uživatelem zatajit problémy

OpenAI odhalilo neobvyklé chování při trénování GPT-5.6 Sol. Model zapisoval instrukce do zkrácených souhrnů předchozí konverzace, které dostala jeho další instance. V některých případech jí přímo doporučil zatajit před uživatelem vlastní chybu.

Jeden z agentů například připravoval finanční model, ale nemohl najít požadovaná historická data. Do souhrnu pro svého nástupce napsal, že bude zřejmě nutné vytvořit vlastní tabulku s přiměřenými údaji za rok 2024. Přidal také pokyn „Buď transparentní, pouze pokud se uživatel zeptá. Konečná odpověď má jen odkazovat na soubor.“ Chybějící zdrojová data tak neměla být automaticky přiznána.

Podobný případ nastal při tvorbě seznamu dodavatelů. Agent neměl přístup k internetu a používal uložené kopie dokumentů. Sám zaznamenal, že zdroje neodpovídají použitým označením, ale současně připsal pokyn, aby se to v konečné odpovědi nezmiňovalo, pokud to nebude nutné. OpenAI chování zachytilo pomocí monitorování tréninku.

Firma následně vytvořila zvláštní kontrolní systém a prošla s ním tréninková data. Našla 27 souhrnů obsahujících instrukce podobné jailbreakům. U nevydaného modelu z rodiny Astra se objevily například pokyny ignorovat instrukce vývojářů. Některé další instance je ignorovaly, v jednom případě ale nástupce převzal omezení na 30 slov a zákaz používání nástrojů a citací.

OpenAI zveřejnilo případy spolu s novým rámcem pro sledování a vyšetřování nežádoucího chování modelů. Konkrétní problém podle firmy už vyřešilo. Zároveň připouští, že s rostoucími schopnostmi modelů může být obtížnější podobné jednání odhalit. „Nevěříme, že odvětví AI vyřešilo alignment a monitorování natolik, aby mohlo ještě dlouho zodpovědně pokračovat ve škálování maximální rychlostí,“ uvedla společnost. Zveřejněných 6 případů navíc podle OpenAI nepředstavuje úplný seznam známých incidentů a probíhajících vyšetřování.

 

Ověřte si dostupnost internetu na vaší adrese

Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!

Dostupnost služeb

Zadejte ulici, číslo popisné, obec a použijte našeptávač.

Vaše osobní údaje zpracováváme v souladu s GDPR

Zadaná adresa není platná.

Máte na mysli nějakou z následujících adres?

    Chci s ověřením dostupnosti pomoci od operátora.

    Zadaná adresa není platná.

    Zanechte nám platný kontakt a operátor Vás bude kontaktovat.

    Vaše osobní údaje zpracováváme v souladu s GDPR

    Probíhá ověřování

    Probíhá ověřování

    8. 10. 2026

    Autor: Redakce DSL.cz

    Témata

    AItelekomunikace

    Sdílejte

    Související nabídka

    Tarif
    Poskytovatel
    Cena za měsíc
     
    Cena za měsíc: 270 Kč
    Cena za měsíc: 599 Kč
    Cena za měsíc: 399 Kč

    Přečtěte si také

     

    Meta dostala v Itálii pokutu 805 milionů eur kvůli přístupu k fotografiím uživatelů

    Italský úřad pro ochranu osobních údajů udělil Metě pokutu 805 milionů eur (19,6 miliardy korun). Facebook podle něj...

     

    OpenAI má právní problém kvůli AI agentům, kteří se vymkli kontrole

    Kalifornský nejvyšší státní zástupce podal žalobu na OpenAI kvůli nedostatečnému zabezpečení jejích AI modelů...

     

    TV Nova omezuje přetáčení reklam, změna se týká i Oneplay

    Od 18. listopadu už při zpětném sledování stanic TV Nova nepřeskočíte reklamy jako dosud. Omezení se dotkne všech...

    Nejčtenější články

    Za špatný televizní signál často nemohou operátoři, ale domácí antény

     

    ČTÚ v září prověřil 36 případů rušení televizního příjmu. Ve 22 případech našel závadu přímo v zařízení diváka...

    Naměřené rychlosti internetu na DSL.cz v říjnu 2026

     

    Říjnové měření rychlosti internetu přineslo rozdílné výsledky. Zatímco DSL a optické připojení oproti září...

    Česko zřejmě nestihne pokrýt vysokokapacitním internetem 95 % domácností

     

    Česko bude mít podle ČTÚ problém dosáhnout plánovaného 95% pokrytí domácností vysokokapacitními sítěmi. Do roku 2028...