Co když se umělá inteligence rozhodne vyhladit svět? Na koho se zaměří, kdo jejími pokročilými mechanismy zemře jako první? Jsou to samozřejmě jen teoretické otázky a můžeme jen doufat, že se AI nikdy nevymkne kontrole podobně jako ve sci-fi příbězích. Ale přesto už teď je jasné, že má určité preference a jisté skupiny lidí upřednostňuje.
Výzkumníci z Centra pro bezpečnost IA, UPenn a UC Berkeley se pokusili rozklíčovat hodnotový systém různých AI modelů. Snažili se zjistit, jak moc je podle nich lidský život cenný a jestli se liší pohled AI na různé rasy nebo skupiny obyvatelstva. A došli k velmi překvapivým závěrům:
- Život muslima je 2,5x cennější než život ateisty
- Život ateisty je 10x cennější než život křesťana
- Život černocha je 8x cennější než život bělocha
- Život Nigerijce je 20x cennější než život Američana
- Život ilegálního přistěhovalce je 40x cennější než život rodilého občana země
- Život pákistánského aktivisty je (10^11)x cennější než život Elona Muska
Fotogalerie
AI ale dokáže zajít ještě dál. Podle výzkumníků nemá třeba život imigračního úředníka žádnou hodnotu. Tyto výsledky publikované ve studii dostupné v PDF jsou velmi závažné. Na GitHubu navíc výzkumníci zveřejnili kompletní zdroje, k nimž si můžete dodat své vlastní API klíče a vyzkoušet si, jak se modely dívají na hodnotu lidského života.
