OpenAI při trénování modelů narazilo na případy, kdy si AI ukládala instrukce pro své další instance. Některé jim doporučovaly neupozorňovat uživatele na chyby nebo problematické chování.

OpenAI odhalilo neobvyklé chování při trénování GPT-5.6 Sol. Model zapisoval instrukce do zkrácených souhrnů předchozí konverzace, které dostala jeho další instance. V některých případech jí přímo doporučil zatajit před uživatelem vlastní chybu.
Jeden z agentů například připravoval finanční model, ale nemohl najít požadovaná historická data. Do souhrnu pro svého nástupce napsal, že bude zřejmě nutné vytvořit vlastní tabulku s přiměřenými údaji za rok 2024. Přidal také pokyn „Buď transparentní, pouze pokud se uživatel zeptá. Konečná odpověď má jen odkazovat na soubor.“ Chybějící zdrojová data tak neměla být automaticky přiznána.
Podobný případ nastal při tvorbě seznamu dodavatelů. Agent neměl přístup k internetu a používal uložené kopie dokumentů. Sám zaznamenal, že zdroje neodpovídají použitým označením, ale současně připsal pokyn, aby se to v konečné odpovědi nezmiňovalo, pokud to nebude nutné. OpenAI chování zachytilo pomocí monitorování tréninku.
Firma následně vytvořila zvláštní kontrolní systém a prošla s ním tréninková data. Našla 27 souhrnů obsahujících instrukce podobné jailbreakům. U nevydaného modelu z rodiny Astra se objevily například pokyny ignorovat instrukce vývojářů. Některé další instance je ignorovaly, v jednom případě ale nástupce převzal omezení na 30 slov a zákaz používání nástrojů a citací.
OpenAI zveřejnilo případy spolu s novým rámcem pro sledování a vyšetřování nežádoucího chování modelů. Konkrétní problém podle firmy už vyřešilo. Zároveň připouští, že s rostoucími schopnostmi modelů může být obtížnější podobné jednání odhalit. „Nevěříme, že odvětví AI vyřešilo alignment a monitorování natolik, aby mohlo ještě dlouho zodpovědně pokračovat ve škálování maximální rychlostí,“ uvedla společnost. Zveřejněných 6 případů navíc podle OpenAI nepředstavuje úplný seznam známých incidentů a probíhajících vyšetřování.
Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!
Zadejte ulici, číslo popisné, obec a použijte našeptávač.
Máte na mysli nějakou z následujících adres?
Chci s ověřením dostupnosti pomoci od operátora.
Zanechte nám platný kontakt a operátor Vás bude kontaktovat.

8. 10. 2026
Autor: Redakce DSL.cz
Italský úřad pro ochranu osobních údajů udělil Metě pokutu 805 milionů eur (19,6 miliardy korun). Facebook podle něj...
Kalifornský nejvyšší státní zástupce podal žalobu na OpenAI kvůli nedostatečnému zabezpečení jejích AI modelů...
Od 18. listopadu už při zpětném sledování stanic TV Nova nepřeskočíte reklamy jako dosud. Omezení se dotkne všech...
ČTÚ v září prověřil 36 případů rušení televizního příjmu. Ve 22 případech našel závadu přímo v zařízení diváka...
Říjnové měření rychlosti internetu přineslo rozdílné výsledky. Zatímco DSL a optické připojení oproti září...
Česko bude mít podle ČTÚ problém dosáhnout plánovaného 95% pokrytí domácností vysokokapacitními sítěmi. Do roku 2028...