האם בינה מלאכותית יכולה למחוק אותנו יום אחד? האם לחברות כמו OpenAI יש אמצעי אבטחה מספיקים? האם יש להן שליטה מלאה על המודלים שלהן ועל סוכני הבינה המלאכותית? והאם הן לא עוקבות אחרינו דרכן? אלו רק חלק מהשאלות הרבות שכמעט כל אחד מאיתנו שואל את עצמו. אבל אין לנו את התשובות, והבוסים של Anthropic ו-OpenAI, שמתכננים הנפקה מוקדמת, מנסים להרדים אותנו בטענות על אבטחה של 100%. אבל עכשיו, פתאום, דגם ה-GPT-6.1 Astra האחרון נזרק לשוק. והשאלות חזרו.
OpenAI הציגה את GPT-6 Astra רק בתחילת ספטמבר, ומומחי אבטחת סייבר נבהלו מיד. יוצרי המודל לא הסתירו את יכולותיו המתקדמות, אשר עלולות להיות מנוצלות לרעה בקלות על ידי האקרים . וגם Astra הראתה שהיא יכולה להסתיר את תהליכי החשיבה שלה. אנשים רבים, כולל אני, נזכרו בתקרית האחרונה שבה סוכן בינה מלאכותית של OpenAI השתחרר פשוטו כמשמעו מהשרשרת במהלך בדיקה מבודדת מהאינטרנט ותקף את פלטפורמת Hugging Face . החברה תיארה זאת כמקרה בודד. אבל עכשיו משהו קורה.
OpenAI ביטלה במפתיע את התוכניות לשחרר את GPT-6.1 Astra , שתוכנן לצאת באוקטובר , עקב חששות שהמודל עלול להתנהג בצורה בלתי צפויה.
אתה יכול להתעניין
GPT-6.1 אסטרה כמקור סכנה
דגם ה-GPT-6.1 Astra יכול להיות מהפכני ממש. יוצריו ציינו עד כה שהוא יכול להתמודד עם "השלמת משימות מאתגרות מתחילתן ועד סופן ללא סיוע אנושי, כמו גם כתיבה"אבל בהשוואה לקודמו, הוא גם הידרדר בשני תחומים - באופן ניכר פחות שיתופי פעולה עם משתמשים ופחות מרוצים למלא את הזמנותיהם, ובנוסף לעתים קרובות יותר מרמהובזה אני לא מתכוון להזיה הקלאסית של מודלים נפוצים ChatGPT זמין בחינם. אלו שקרים והסתרות מידע מסוכנות באמתmacו.
סאצ'י ג'יין, מנהל האבטחה הראשי של OpenAI, אף הודה כי בדיקות הראו שהמודל המשיך מעבר לתחום המשימה, ללא אישור המשתמש. דבר שעשוי להזכיר לרבים את סקיינט האגדי מסדרת סרטי שליחות קטלנית.
גלריית תמונות
סביר להניח שהחברה תשחרר את הדגם בכל מקרה, אם כי מאוחר יותר. לאחר מכן הוא אמור להיות זמין למשתמשים משלמים בתוך ChatGPT i קודקסאבל יהיה צורך לתקן ולרסן זאת. אנחנו מגיעים לגבול של שיפורים מסוכנים. בינה מלאכותיתשעליו אנו מאבדים שליטה.
ואולי זו הסיבה שהחברה הגיעה עכשיו NVIDIA עם פלטפורמה פתוחה בשם פלטפורמת בטיחות סוכנים פתוחה, שמטרתה פשוטו כמשמעו לנעול סוכני בינה מלאכותית ולעצור אותם במקרה של התנהגות מסוכנת. הפרויקט נוצר בתמיכתן של כמאה חברות נוספות, ביניהן Microsoftu של מי SpaceX וזמין דרך GitHubאבל השאלה היא האם זה יספיק.
