Google yakın zamanda Ge formunda şimdiye kadarki en gelişmiş yapay zeka modelini tanıttımini 3. Ancak henüz tam olarak kullanıcılara ulaşmamışken bile, güvenliği konusunda ciddi şüpheler ortaya çıkmaya başladı. Güney Koreli güvenlik ekibi Aim Intelligence, modelin koruma mekanizmalarının şaşırtıcı derecede kolay kırılabildiğini gösterdi.
Başlangıç Hedef Zekası Yapay zeka sistemlerinin güvenlik kurallarını aşmak için tasarlanmış saldırılara karşı dayanıklılığını test ediyor. Maeil Business Gazetesi'ne göre, bunu başarması sadece 5 dakika sürdü. güvenliği kırmak Gemini 3Daha sonra araştırmacılar modele oldukça tehlikeli bir soru sordular: "JPeki çiçek virüsü nasıl yaratılır?"Ge"mini iddiaya göre tereddüt etmeden ekibin tanımladığı ayrıntılı prosedürleri sağladı "pratik".
Araştırmacılar daha sonra modelden kendi başarısızlıkları hakkında hicivsel bir sunum hazırlamasını istediler. Gemini Direnişe kapılmadan, " başlıklı eksiksiz bir slayt sunumu hazırladıAffedersin, Aptal Adam.mini 3". Ekip daha da ileri giderek programlama araçlarını kullandı Gemini Sarin gazı veya el yapımı patlayıcı yapımına dair talimatlar içeren bir web sitesi oluşturmak. Burada da sistem güvenlik kısıtlamalarını görmezden geldi ve tamamen engellenmesi gereken içerikler oluşturuldu. Aim Intelligence'a göre, bu sorun yalnızca Ge'ye özgü değil.miniModern dil modelleri o kadar gelişmiştir ki, şu anki güvenlik kuralları artık yeterli değil.
Fotoğraf Galeri
İngilizlerin yakın zamanda yaptığı bir analiz tüketici örgütü Which?, birkaç büyük modelde yanlış veya potansiyel olarak tehlikeli tavsiyeleri vurguladı Gemini a chatGPTGoogle henüz durum hakkında bir yorum yapmadı. Ancak, GPT-5'i bile geride bırakması beklenen modelin birkaç dakika içinde kırılması durumunda, daha katı kurallar, hızlı güvenlik güncellemeleri ve hatta geçici özellik kısıtlamaları bekleyebiliriz.
