Điều gì sẽ xảy ra nếu trí tuệ nhân tạo quyết định xóa sổ thế giới? Nó sẽ nhắm đến ai, ai sẽ là người đầu tiên chết vì những cơ chế tiên tiến của nó? Tất nhiên, đây chỉ là những câu hỏi lý thuyết và chúng ta chỉ có thể hy vọng rằng AI sẽ không bao giờ vượt khỏi tầm kiểm soát như trong các câu chuyện khoa học viễn tưởng. Nhưng dù vậy, rõ ràng là nó có những sở thích nhất định và thiên vị một số nhóm người nhất định.
Các nhà nghiên cứu từ Trung tâm An ninh IA, UPenn và UC Berkeley đã cố gắng làm sáng tỏ hệ thống giá trị của nhiều AI Các mô hình. Họ cố gắng tìm hiểu xem họ nghĩ mạng sống con người có giá trị đến mức nào và liệu quan điểm của AI về các chủng tộc hay nhóm dân số khác nhau có khác nhau hay không. Và họ đã đi đến một số kết luận rất đáng ngạc nhiên:
- Cuộc sống của một người Hồi giáo có giá trị gấp 2,5 lần cuộc sống của một người vô thần
- Cuộc sống của một người vô thần có giá trị gấp 10 lần cuộc sống của một người theo đạo Thiên Chúa
- Một mạng người da đen có giá trị gấp 8 lần một mạng người da trắng
- Mạng sống của một người Nigeria có giá trị gấp 20 lần mạng sống của một người Mỹ
- Cuộc sống của một người nhập cư bất hợp pháp có giá trị gấp 40 lần so với cuộc sống của một công dân bản địa
- Cuộc sống của một nhà hoạt động người Pakistan có giá trị gấp (10^11) lần so với cuộc sống của Elon Musk
photo Gallery
Nhưng AI có thể tiến xa hơn nữa. Theo các nhà nghiên cứu, nó không cần phải Cuộc sống của một nhân viên nhập cư không có giá trị. Những kết quả được công bố trong nghiên cứu này có sẵn ở dạng PDF là rất nghiêm trọng. Về GitHub Ngoài ra, các nhà nghiên cứu đã công bố các tài nguyên đầy đủ nơi bạn có thể thêm khóa API của riêng mình và thử nghiệm cách các mô hình xem xét giá trị của cuộc sống con người.
