Pentagon chce, aby se AI poučila z vlastních chyb

Autobus řízený umělou inteligencí trošku naboural do dodávky. Zpráva o tomto střetu zanedlouho obletěla celý svět. Největším problémem je to, že autobus nezaevidoval chybu a mohlo by k ní tedy dojít znovu.

Nešlo o nějak osudový střet, spíš o ťuknutí. Nicméně i to rozvířilo diskuzi o snaze vytvořit umělou inteligenci, která se bude schopná poučit ze svých chyb. Vzhledem k tomu, že toho nejsou schopní ani někteří svobodně myslící lidé, by to byl velký trhák. Z nehody pak vznikl navíc závěr, že by to autobus udělal příště znovu. To je dost velký problém předevší proto, že AI má mít na paměti především bezpečnost.

Americká obranná agentura DARPA spadající pod Pentagon má ale šanci v tomto výzkumu dost pokročit. Magazín IEEE Spectrum upozornil na fakt, že na to má dotační program, který zkoumá a upgraduje možnosti strojového učení, jinými slovy učí roboty samostatně zjistit, jaké nové vědomosti a schopnosti by se jim hodily.

Pořád si myslíme, že zas takový fail to s „nárazem“ do dodávky nebyl. Lidi mají mnohem chybovější software, a stále jim nikdo nevzal právo na řízení. Nicméně zanedlouho se můžeme těšit na stroje, které budou schopné sami určit, co udělaly špatně nebo sami zjistit, co se potřebují naučit.

25. 11. 2017

Autor: Redakce DSL.cz