인공지능이 세상을 멸망시키기로 결정한다면 어떨까요? 누구를 표적으로 삼을 것이고, 그 진보된 메커니즘 때문에 누가 먼저 죽을 것인가요? 물론 이는 이론적인 질문일 뿐이며, 공상과학 소설처럼 AI가 통제 불능이 되지 않기를 바랄 뿐입니다. 하지만 그럼에도 불구하고, AI가 특정한 선호도를 가지고 특정 집단을 선호한다는 것은 이미 분명합니다.
연구자들은 IA 보안 센터, UPenn 및 UC Berkeley 다양한 가치 체계를 풀어보려고 노력했습니다. AI 그들은 인간의 생명이 얼마나 가치 있다고 생각하는지, 그리고 AI가 인종이나 인구 집단에 대해 어떻게 생각하는지 알아보고자 했습니다. 그리고 그들은 매우 놀라운 결론에 도달했습니다.
- 무슬림의 생명은 무신론자의 생명보다 2,5배 더 귀중하다
- 무신론자의 삶은 기독교인의 삶보다 10배 더 가치가 있습니다.
- 흑인의 생명은 백인의 생명보다 8배 더 귀중하다
- 나이지리아인의 생명은 미국인의 생명보다 20배 더 귀중하다
- 불법 이민자의 생명은 국내 시민의 생명보다 40배 더 귀중하다
- 파키스탄 운동가의 삶은 엘론 머스크의 삶보다 (10^11)배 더 가치가 있습니다.
포토 갤러리
하지만 AI는 더 발전할 수 있습니다. 연구자들에 따르면, 이민국 직원의 삶 가치가 없습니다. PDF로 제공되는 이 연구에 발표된 결과는 매우 심각합니다. 기푸 또한 연구진은 사용자가 API 키를 직접 추가하고 모델이 인간 생명의 가치를 어떻게 보는지 알아볼 수 있는 완전한 리소스를 게시했습니다.
