Úvod > Články > Umělá inteligence může prohlubovat rasismus a sexismus, varuje australská komisařka

Umělá inteligence může prohlubovat rasismus a sexismus, varuje australská komisařka

Komisařka pro lidská práva Lorraine Finlay upozornila, že AI bez regulace může posílit diskriminaci. Trénování technologie by podle ní mělo podléhat jasným pravidlům.

Australská komisařka pro lidská práva Lorraine Finlay varovala, že umělá inteligence může prohlubovat rasismus a sexismus, pokud nebude podléhat jasným pravidlům. Podle ní by honba za vyšší produktivitou neměla jít na úkor rovnosti a spravedlnosti.

Finlay zdůraznila, že netransparentnost v tom, na jakých datech jsou AI modely trénovány, znesnadňuje odhalování skrytých předsudků. „Algoritmická zaujatost znamená, že nespravedlnost je zabudovaná do nástrojů, které používáme, a rozhodnutí pak tento bias odráží,“ uvedla. Podle ní je rizikem i tzv. automatizační bias, kdy lidé přebírají rozhodnutí strojů bez vlastního úsudku.

Komise dlouhodobě prosazuje přijetí zákona o umělé inteligenci a posílení ochrany soukromí i testování algoritmů na předsudky. Finlay zdůraznila nutnost zavést legislativní pojistky, pravidelné audity a lidský dohled.

Vláda řeší také otázku, zda uvolnit australská data k trénování AI. Senátorka Michelle Ananda-Rajah tvrdí, že pokud se tak nestane, země bude závislá na zahraničních modelech a jejich předsudcích. Podle ní je potřeba využít co nejvíce domácích dat, aby systémy odpovídaly australské realitě. Zároveň požaduje, aby autoři obsahu byli za využití svých děl zaplaceni.

Podle expertů může být širší využití australských dat přínosné, ale není jediným řešením. Judith Bishop z univerzity La Trobe upozornila, že je nutné hlídat, zda nástroje vyvinuté v zahraničí jsou použitelné i v lokálním kontextu.