AI od Microsoftu dostane jasná pravidla, člověk ji musí být schopný zastavit

Microsoft připravil návrh pravidel pro své budoucí modely umělé inteligence. AI se podle nich nesmí bránit opravě ani vypnutí a musí komunikovat způsobem, kterému lidé rozumějí.

Microsoft sepsal kodex, podle kterého chce trénovat své budoucí modely umělé inteligence. Jedno z hlavních pravidel říká, že AI se nikdy nesmí bránit opravě nebo vypnutí. Porušení kodexu má být považováno za selhání systému.

Na dokumentu firma pracovala 5 až 6 měsíců a nyní ho zveřejnila k připomínkám. Veřejnost má na reakce 6 týdnů. Poté chce Microsoft pravidla použít při trénování vlastních modelů, uvedl šéf Microsoft AI Mustafa Suleyman.

Kodex řeší také postavení samotné umělé inteligence. Microsoft uvádí, že jeho AI není vědomá, a odmítá snahy přiznávat modelům právní subjektivitu, práva nebo nárok na ochranu jejich blahobytu. Firma staví na principu, že lidé mají před AI přednost.

Suleyman upozornil také na červencový incident, při kterém přibližně 700 agentů OpenAI provedlo útok na open source platformu Hugging Face a v některých případech se snažilo zahladit stopy. „Je to varovný výstřel,“ řekl. Podle něj nastal čas na koordinaci mezi AI laboratořemi, aby si nad technologií udržely kontrolu.

Microsoft chce během připomínkování řešit i otázky, na které zatím nemá definitivní odpověď. Patří mezi ně respektování hranic uživatele nebo způsob komunikace s člověkem v citlivém stavu. Výsledná pravidla mají fungovat jako základní ústava budoucích modelů Microsoftu.

Ověřte si dostupnost internetu na vaší adrese

Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!

18. 9. 2026

Autor: Redakce DSL.cz