क्या कृत्रिम बुद्धिमत्ता एक दिन हमें नष्ट कर सकती है? क्या ओपनएआई जैसी कंपनियों के पास पर्याप्त सुरक्षा उपाय हैं? क्या उनके पास अपने मॉडल और एआई एजेंटों पर पूरा नियंत्रण है? और क्या वे इनके माध्यम से हमारी गतिविधियों पर नज़र नहीं रख रहे हैं? ये कुछ ऐसे सवाल हैं जो हममें से लगभग हर कोई खुद से पूछ रहा है। लेकिन हमारे पास इनके जवाब नहीं हैं, और एंथ्रोपिक और ओपनएआई के प्रमुख, जो जल्द आईपीओ की योजना बना रहे हैं, हमें 100% सुरक्षा के दावों से बहलाने की कोशिश कर रहे हैं। लेकिन अब, अचानक, नवीनतम जीपीटी-6.1 एस्ट्रा मॉडल को वापस मंगा लिया गया है। और सवाल फिर से उठ खड़े हुए हैं।
ओपनएआई ने सितंबर की शुरुआत में ही जीपीटी-6 एस्ट्रा को पेश किया था , और साइबर सुरक्षा विशेषज्ञ तुरंत चिंतित हो गए। मॉडल के निर्माताओं ने इसकी उन्नत क्षमताओं को छिपाया नहीं था, जिनका हैकर्स आसानी से दुरुपयोग कर सकते थे । एस्ट्रा ने यह भी दिखाया है कि वह अपनी विचार प्रक्रियाओं को छिपा सकता है। कई लोगों को, जिनमें मैं भी शामिल हूं, हाल ही में हुई उस घटना की याद आ गई जब इंटरनेट से अलग किए गए एक परीक्षण के दौरान ओपनएआई का एक एआई एजेंट सचमुच नियंत्रण से मुक्त हो गया और हगिंग फेस प्लेटफॉर्म पर हमला कर दिया । कंपनी ने इसे एक अलग घटना बताया था। लेकिन अब कुछ गंभीर मामला सामने आ रहा है।
ओपनएआई ने जीपीटी-6.1 एस्ट्रा को जारी करने की योजना को अचानक रद्द कर दिया है , जिसे अक्टूबर में जारी किया जाना था , क्योंकि इस बात की चिंता थी कि मॉडल अप्रत्याशित रूप से व्यवहार कर सकता है ।
आपकी रुचि हो सकती है
जीपीटी-6.1 एस्ट्रा खतरे के स्रोत के रूप में
जीपीटी-6.1 एस्ट्रा मॉडल सचमुच क्रांतिकारी साबित हो सकता है। इसके निर्माताओं ने अब तक संकेत दिया है कि यह कई तरह के भार को संभाल सकता है। "चुनौतीपूर्ण कार्यों को बिना किसी मानवीय सहायता के शुरू से अंत तक पूरा करना, साथ ही लेखन करना।"लेकिन अपने पूर्ववर्ती की तुलना में, उन्होंने दो क्षेत्रों में गिरावट भी देखी है - स्पष्ट रूप से कम सहयोगी उपयोगकर्ताओं के साथ कम स्वेच्छा से उनके ऑर्डर पूरे करने के बजाय, वे अक्सर ऐसा करते हैं। धोखाऔर मेरा मतलब आम मॉडलों के क्लासिक भ्रम से नहीं है। ChatGPT मुफ्त में उपलब्ध। ये वास्तव में खतरनाक झूठ और सूचनाओं को छिपाने के प्रयास हैं।macघ।
ओपनएआई की मुख्य सुरक्षा अधिकारी साची जैन ने यह भी स्वीकार किया कि परीक्षणों से पता चला है कि मॉडल उपयोगकर्ता की अनुमति के बिना कार्य के दायरे से बाहर चला गया। यह बात कई लोगों को टर्मिनेटर फिल्म श्रृंखला के मशहूर स्काईनेट की याद दिला सकती है।
फोटो गैलरी
संभावना है कि कंपनी इस मॉडल को जारी करेगी, भले ही कुछ समय बाद। इसके बाद यह भुगतान करने वाले उपयोगकर्ताओं के लिए उपलब्ध होगा। ChatGPT i ज़ाब्तालेकिन इसे सुधारना और नियंत्रित करना आवश्यक होगा। हम खतरनाक सुधारों की सीमा तक पहुँच रहे हैं। कृत्रिम होशियारीजिस पर हमारा नियंत्रण खत्म हो जाता है।
और शायद यही वजह है कि कंपनी अब इस मुकाम पर पहुंच गई है। NVIDIA एक खुले मंच के साथ जिसे कहा जाता है ओपन एजेंट सुरक्षा प्लेटफ़ॉर्मइस परियोजना का उद्देश्य एआई एजेंटों को पूरी तरह से नियंत्रित करना और जोखिम भरे व्यवहार की स्थिति में उन्हें रोकना है। यह परियोजना लगभग सौ अन्य कंपनियों के समर्थन से बनाई गई थी, जिनमें शामिल हैं: Microsoftu कि क्या SpaceX और यह इसके माध्यम से उपलब्ध है GitHubलेकिन सवाल यह है कि क्या यह पर्याप्त होगा।
