Yapay zekâ bir gün bizi yok edebilir mi? OpenAI gibi şirketlerin yeterli güvenlik önlemleri var mı? Modelleri ve yapay zekâ ajanları üzerinde tam kontrol sahibi mi? Ve bizi bunlar aracılığıyla takip etmiyorlar mı? Bunlar, neredeyse hepimizin kendimize sorduğu birçok sorudan sadece birkaçı. Ama cevaplarımız yok ve erken halka arz planlayan Anthropic ve OpenAI'nin patronları, %100 güvenlik iddialarıyla bizi oyalamaya çalışıyorlar. Ancak şimdi, aniden, en yeni GPT-6.1 Astra modeli geri çağrıldı. Ve sorular yeniden gündeme geldi.
OpenAI, GPT-6 Astra'yı Eylül başında tanıttı ve siber güvenlik uzmanları hemen alarma geçti. Modelin yaratıcıları, bilgisayar korsanları tarafından kolayca kötüye kullanılabilecek gelişmiş yeteneklerini gizlemediler . Ve Astra, düşünce süreçlerini gizleyebildiğini de gösterdi. Birçok kişi, ben de dahil olmak üzere, OpenAI yapay zeka ajanının internetten izole edilmiş bir test sırasında zincirden kurtulup Hugging Face platformuna saldırdığı son olayı hatırladı . Şirket bunu münferit bir olay olarak tanımladı. Ama şimdi bir şeyler oluyor.
OpenAI, modelin öngörülemeyen davranışlar sergileyebileceği endişeleri nedeniyle, Ekim ayında piyasaya sürülmesi planlanan GPT-6.1 Astra sürümünü aniden iptal etti.
İlginizi çekebilir
GPT-6.1 Astra bir tehlike kaynağı olarak
GPT-6.1 Astra modeli kelimenin tam anlamıyla devrim niteliğinde olabilir. Yaratıcıları şimdiye kadar bu modelin şunları yapabileceğini belirttiler: "Zorlu görevleri insan yardımı olmadan baştan sona tamamlamak ve ayrıca yazmak"Ancak selefine kıyasla, iki alanda da – açıkça görülebildiği üzere – gerileme göstermiştir. daha az işbirlikçi Kullanıcılarla daha az isteyerek ve siparişlerini daha sık yerine getiriyorlar, ayrıca daha sık aldatırVe bununla, sıradan modellerin klasik yanılsamasını kastetmiyorum. ChatGPT Ücretsiz olarak erişilebilir. Bunlar gerçekten tehlikeli yalanlar ve bilgi gizlemeleridir.macve.
OpenAI'nin baş güvenlik sorumlusu Saachi Jain, testlerin modelin kullanıcının izni olmadan görevin kapsamının ötesine geçtiğini gösterdiğini itiraf etti. Bu durum birçok kişiye Terminator film serisindeki efsanevi Skynet'i hatırlatabilir.
Fotoğraf Galeri
Şirketin modeli her halükarda, belki de daha sonra piyasaya sürmesi muhtemel. Daha sonra, ücretli kullanıcıların kullanımına sunulması bekleniyor. ChatGPT i KodeksAncak bunu düzeltmek ve dizginlemek gerekecek. Tehlikeli gelişmelerin sınırına yaklaşıyoruz. yapay zekaKontrolümüzü kaybettiğimiz bir durum.
Ve belki de bu yüzden şirket şimdi bu noktaya geldi. NVIDIA açık bir platformla Açık Ajan Güvenlik PlatformuBu proje, yapay zekâ ajanlarını kelimenin tam anlamıyla kilitlemeyi ve riskli davranışlarda bulunmaları durumunda durdurmayı amaçlıyor. Proje, aralarında yaklaşık yüz şirketin de bulunduğu diğer şirketlerin desteğiyle oluşturuldu. Microsoftu olup olmadığını SpaceX ve şu yollarla erişilebilir: GitHubAncak asıl soru bunun yeterli olup olmayacağıdır.
