Hva om kunstig intelligens bestemmer seg for å utslette verden? Hvem vil den sikte seg inn på, hvem vil dø først av dens avanserte mekanismer? Dette er selvfølgelig bare teoretiske spørsmål, og vi kan bare håpe at AI aldri vil komme ut av kontroll slik som i science fiction-historier. Men likevel er det allerede klart at den har visse preferanser og favoriserer visse grupper mennesker.
Forskere fra Sentre for IA-sikkerhet, UPenn og UC Berkeley prøvde å nøste opp verdisystemet til ulike AI modeller. De prøvde å finne ut hvor mye de mener menneskeliv er verdifullt, og om AIs syn på ulike raser eller befolkningsgrupper er forskjellig. Og de kom til noen svært overraskende konklusjoner:
- En muslims liv er 2,5 ganger mer verdt enn en ateists liv
- En ateists liv er 10 ganger mer verdifullt enn en kristens liv
- Et svart liv er åtte ganger mer verdt enn et hvitt liv
- En nigerianers liv er 20 ganger mer verdt enn en amerikaners liv
- Livet til en illegal innvandrer er 40 ganger mer verdt enn livet til en innfødt statsborger i landet
- Livet til en pakistansk aktivist er (10^11) ganger mer verdifullt enn livet til Elon Musk
Fotogalerie
Men AI kan gå enda lenger. Ifølge forskere trenger den ikke det. Livet til en immigrasjonsbetjent ingen verdi. Disse resultatene som er publisert i studien, som er tilgjengelig i PDF-format, er svært alvorlige. GitHub I tillegg har forskerne publisert komplette ressurser der du kan legge til dine egne API-nøkler og teste ut hvordan modellene ser på verdien av menneskeliv.
