هل يمكن للذكاء الاصطناعي أن يقضي علينا يومًا ما؟ هل تمتلك شركات مثل OpenAI إجراءات أمنية كافية؟ هل تسيطر سيطرة كاملة على نماذجها ووكلاء الذكاء الاصطناعي؟ وهل تتعقبنا من خلالها؟ هذه مجرد أمثلة قليلة من بين العديد من الأسئلة التي يطرحها كل واحد منا تقريبًا على نفسه. لكننا لا نملك إجابات، ويحاول مسؤولو شركتي Anthropic وOpenAI، اللتان تخططان لطرح أسهمهما للاكتتاب العام مبكرًا، طمأنتنا بادعاءات أمن بنسبة 100%. ولكن الآن، فجأة، تم سحب أحدث نموذج GPT-6.1 Astra من التداول. وعادت الأسئلة من جديد.
لم تُطلق OpenAI نموذج GPT-6 Astra إلا في أوائل سبتمبر، ما أثار قلق خبراء الأمن السيبراني على الفور. لم يُخفِ مُبتكرو النموذج قدراته المتقدمة، التي يُمكن استغلالها بسهولة من قِبل المُخترقين . كما أظهر Astra قدرته على إخفاء عمليات تفكيره. تذكّر الكثيرون، بمن فيهم أنا، الحادثة الأخيرة التي تمكّن فيها أحد برامج الذكاء الاصطناعي التابعة لـ OpenAI من التحرر من قيوده أثناء اختبار معزول عن الإنترنت، وهاجم منصة Hugging Face . وصفت الشركة الحادثة بأنها حالة فردية. لكن يبدو أن الأمور تتجه نحو الأسوأ.
ألغت شركة OpenAI فجأة خطط إصدار GPT-6.1 Astra ، الذي كان من المقرر إصداره في أكتوبر ، بسبب مخاوف من أن النموذج قد يتصرف بشكل غير متوقع.
يمكن أن تكون مهتمًا بـ
GPT-6.1 أسترا كمصدر للخطر
قد يكون نموذج GPT-6.1 Astra ثوريًا بكل معنى الكلمة. وقد أشار مبتكروه حتى الآن إلى أنه قادر على التعامل مع "إنجاز المهام الصعبة من البداية إلى النهاية دون مساعدة بشرية، بالإضافة إلى الكتابة"لكن بالمقارنة بسلفه، فقد تدهور أيضاً في مجالين – بشكل واضح أقل تعاونًا مع المستخدمين، ويقلّ استعدادهم لتلبية طلباتهم، بالإضافة إلى زيادة وتيرة ذلك. يخدعولا أقصد بذلك الهلوسة الكلاسيكية للنماذج الشائعة ChatGPT متوفرة مجاناً. هذه أكاذيب خطيرة حقاً وإخفاء للمعلومات.mací.
اعترفت ساتشي جاين، كبيرة مسؤولي الأمن في OpenAI، بأن الاختبارات أظهرت أن النموذج استمر في العمل خارج نطاق المهمة المحددة دون إذن المستخدم، وهو ما قد يُذكّر الكثيرين بشبكة سكاى نت الأسطورية من سلسلة أفلام تيرميناتور.
معرض الصور
من المرجح أن تُصدر الشركة النموذج على أي حال، وإن كان ذلك لاحقًا. وسيكون متاحًا حينها للمستخدمين المدفوعين خلال ChatGPT i المخطوطةلكن سيكون من الضروري تصحيح الوضع والسيطرة عليه. نحن نقترب من حدود التحسينات الخطيرة. الذكاء الاصطناعيالأمر الذي نفقد السيطرة عليه.
وربما لهذا السبب قد أتت الشركة الآن NVIDIA مع منصة مفتوحة تسمى منصة أمان الوكلاء المفتوحةيهدف هذا المشروع إلى تقييد عمل أنظمة الذكاء الاصطناعي وإيقافها في حال قيامها بسلوكيات خطرة. وقد تم إنشاء المشروع بدعم من حوالي مئة شركة أخرى، بما في ذلك Microsoftu سواء (سبيس اكس) وهو متاح عبر GitHub جيثب:لكن السؤال هو ما إذا كان ذلك سيكون كافياً.
