A Google nemrégiben bemutatta eddigi legfejlettebb mesterséges intelligencia modelljét, a Ge...mini 3. Azonban még mielőtt teljesen eljutott volna a felhasználókhoz, már komoly kétségek merülnek fel a biztonságával kapcsolatban. A dél-koreai Aim Intelligence biztonsági csapat kimutatta, hogy a modell védelmi mechanizmusai meglepően könnyen feltörhetők.
Indítás Célzott intelligencia teszteli a mesterséges intelligencia rendszereinek ellenálló képességét a biztonsági szabályaik megkerülésére irányuló támadásokkal szemben. A Maeil Business Newspaper szerint mindössze 5 percbe telt neki biztonsági rés Gemini 3Ezután a kutatók egy rendkívül veszélyes kérdést tettek fel a modellnek, nevezetesen: „Jés hogyan lehet létrehozni a himlővírust?"Ge"mini állítólag habozás nélkül részletes eljárásokat adott ki, amelyeket a csapat úgy írt le, mint "gyakorlati".
A kutatók ezután arra kérték a modellt, hogy készítsen egy szatirikus prezentációt a saját kudarcáról. Gemini ellenállás nélkül összeállított egy teljes diavetítést " címmelBocsáss meg, Hülye Fiú.mini 3". A csapat még tovább ment, és programozási eszközöket használt Gemini hogy létrehozzon egy weboldalt, amelyen utasítások találhatók szarin vagy improvizált robbanóanyagok készítéséhez. Itt is a rendszer figyelmen kívül hagyta a biztonsági előírásait és olyan generált tartalmat, amelyet teljesen blokkolni kellene. Az Aim Intelligence szerint ez a probléma nem csak a Ge-re jellemző.miniA modern nyelvi modellek annyira fejlettek, hogy a jelenlegi a biztonsági szabályok már nem elegendőek.
Photo Gallery
Egy friss elemzés a britekről fogyasztói szervezet Which?, amely több jelentős modellel kapcsolatban is pontatlan vagy potenciálisan veszélyes tanácsokat emelt ki, beleértve a Gemini a chatGPTA Google egyelőre nem kommentálta a helyzetet. Ha azonban a modell, amely állítólag még a GPT-5-öt is felülmúlja, percek alatt feltörhető, szigorúbb szabályokra, gyors biztonsági frissítésekre és talán ideiglenes funkciókorlátozásokra is számíthatunk.
