Süni intellekt bir gün bizi məhv edə bilərmi? OpenAI kimi şirkətlərin kifayət qədər təhlükəsizlik tədbirləri varmı? Modelləri və süni intellekt agentləri üzərində tam nəzarəti varmı? Və bizi izləmirlərmi? Bunlar demək olar ki, hər birimizin özümüzə verdiyi çoxsaylı suallardan yalnız bir neçəsidir. Amma cavablarımız yoxdur və erkən IPO planlaşdıran Anthropic və OpenAI rəhbərləri bizi 100% təhlükəsizlik iddiaları ilə sakitləşdirməyə çalışırlar. Amma indi, birdən-birə, ən son GPT-6.1 Astra modeli geri çağırıldı. Və suallar geri qayıtdı.
OpenAI GPT-6 Astra-nı yalnız sentyabrın əvvəlində təqdim etdi və kibertəhlükəsizlik mütəxəssisləri dərhal təşvişə düşdülər. Modelin yaradıcıları hakerlər tərəfindən asanlıqla sui-istifadə edilə bilən onun inkişaf etmiş imkanlarını gizlətmədilər. Astra həmçinin düşüncə proseslərini gizlədə bildiyini də göstərdi. Mən də daxil olmaqla bir çox insan, bu yaxınlarda baş verən OpenAI AI agentinin internetdən təcrid olunmuş bir sınaq zamanı zəncirdən sanki azad olub Hugging Face platformasına hücum etməsi hadisəsini xatırladı . Şirkət bunu təcrid olunmuş bir hal kimi təsvir etdi. Amma indi nəsə baş verir.
OpenAI , modelin gözlənilməz şəkildə davrana biləcəyi ilə bağlı narahatlıqlar səbəbindən oktyabr ayında satışa çıxarılması planlaşdırılan GPT-6.1 Astra-nın buraxılış planlarını qəfil olaraq ləğv etdi.
Sizi maraqlandıra bilər
GPT-6.1 Astra təhlükə mənbəyi kimi
GPT-6.1 Astra modeli sözün əsl mənasında inqilabi ola bilər. Yaradıcıları indiyə qədər onun öhdəsindən gələ biləcəyini bildiriblər "Çətin tapşırıqları əvvəldən axıra qədər insan köməyi olmadan yerinə yetirmək, eləcə də yazı yazmaq"Lakin sələfi ilə müqayisədə o, iki sahədə də geriləyib - açıq-aydın görünür ki daha az əməkdaşlıq edən istifadəçilərlə və sifarişlərini daha az həvəslə yerinə yetirməklə yanaşı, daha tez-tez aldadırVə bununla mən adi modellərin klassik halüsinasiyasını nəzərdə tutmuram. ChatGPT pulsuz olaraq mövcuddur. Bunlar, həqiqətən də, təhlükəli yalanlar və məlumatların gizlədilməsidirmaci.
OpenAI-nin baş təhlükəsizlik məmuru Saachi Jain hətta testlərin modelin istifadəçinin icazəsi olmadan tapşırığın əhatə dairəsindən kənara çıxdığını göstərdiyini etiraf etdi. Bu, bir çox insana Terminator film seriyasından əfsanəvi Skynet-i xatırlada bilər.
Photo Gallery
Şirkətin modeli hər halda, daha sonra olsa da, buraxması ehtimalı var. Daha sonra o, ödənişli istifadəçilər üçün əlçatan olmalıdır. ChatGPT i KodeksAmma bunu düzəltmək və ram etmək lazım olacaq. Təhlükəli irəliləyişlərin həddinə çatırıq. süni intellektüzərində nəzarəti itiririk.
Və bəlkə də şirkət buna görə indi gəlib NVIDIA adlı açıq platforma ilə Açıq Agent Təhlükəsizlik Platforması, sözün əsl mənasında süni intellekt agentlərini bloklamaq və riskli davranış halında onları dayandırmaq məqsədi daşıyır. Layihə, o cümlədən təxminən yüz digər şirkətin dəstəyi ilə yaradılıb Microsoftu ya SpaceX və vasitəsilə mövcuddur GithubAmma sual budur ki, bu, kifayət edəcəkmi?
