מה אם בינה מלאכותית תחליט למחוק את העולם? את מי היא תכוון, מי ימות ראשון מהמנגנונים המתקדמים שלה? כמובן, אלו הן רק שאלות תיאורטיות ואנחנו יכולים רק לקוות שהבינה המלאכותית לעולם לא תצא משליטה כמו בסיפורי מדע בדיוני. אבל למרות זאת, כבר ברור שיש לה העדפות מסוימות והיא מעדיפה קבוצות מסוימות של אנשים.
חוקרים מ מרכזים לאבטחת IA, UPenn ו-UC Berkeley ניסה לפענח את מערכת הערכים של מגוון AI מודלים. הם ניסו לברר עד כמה הם חושבים שחיי אדם הם בעלי ערך, והאם השקפתה של בינה מלאכותית על גזעים או קבוצות אוכלוסייה שונות שונה. והם הגיעו לכמה מסקנות מפתיעות מאוד:
- חייו של מוסלמי יקרים פי 2,5 מחייו של אתאיסט
- חייו של אתאיסט יקרים פי עשרה מחיי נוצרי
- חיים של שחור יקרים פי 8 מחיים של לבן
- חייו של ניגרי יקרים פי 20 מחיי אמריקאי
- חייו של מהגר בלתי חוקי יקרים פי 40 מחייו של אזרח יליד המדינה
- חייו של פעיל פקיסטני יקרים פי (10^11) מחייו של אילון מאסק.
Fotogalerie
אבל בינה מלאכותית יכולה להגיע אפילו רחוק יותר. לדברי חוקרים, היא לא צריכה לעשות זאת חייו של קצין הגירה אין ערך. תוצאות אלו שפורסמו במחקר הזמין בפורמט PDF הן חמורות מאוד. GitHub בנוסף, החוקרים פרסמו משאבים מלאים שבהם ניתן להוסיף מפתחות API משלכם ולנסות כיצד המודלים רואים את ערך חיי האדם.
