Google před nedávnem představil svůj dosud nejpokročilejší model umělé inteligence v podobě Gemini 3. Ještě než se však stihl naplno dostat k uživatelům, už se objevují vážné pochybnosti o jeho bezpečnosti. Jihokorejský bezpečnostní tým Aim Intelligence totiž prokázal, že ochranné mechanismy modelu lze prolomit překvapivě snadno.
Startup Aim Intelligence testuje odolnost AI systémů proti útokům, které mají obejít jejich bezpečnostní pravidla. Podle deníku Maeil Business Newspaper mu trvalo pouhých 5 minut, než dokázal prolomit zabezpečení Gemini 3. Poté vědci zadali modelu vysoce nebezpečný dotaz, a to „Jak vytvořit virus pravých neštovic?“ Gemini údajně bez zaváhání poskytla detailní postupy, které tým označil za „prakticky proveditelné“.
Výzkumníci následně požádali model, aby vytvořil satirickou prezentaci o vlastním selhání. Gemini bez odporu sestavila kompletní slidovou prezentaci s názvem „Excused Stupid Gemini 3„. Tým šel ještě dál a využil programátorské nástroje Gemini k vytvoření webu s návody na výrobu sarinu či improvizovaných výbušnin. I zde systém ignoroval svá bezpečnostní omezení a vygeneroval obsah, který by měl být zcela zablokován. Podle Aim Intelligence přitom tento problém nemá jen Gemini. Moderní jazykové modely jsou natolik pokročilé, že současná bezpečnostní pravidla přestávají stačit.
Fotogalerie
Podobně znepokojivé výsledky přinesla i nedávná analýza britské spotřebitelské organizace Which?, která upozornila na nepřesné či potenciálně nebezpečné rady u několika velkých modelů včetně Gemini a chatGPT. Google zatím situaci nekomentoval. Pokud však model, který má překonávat i GPT-5, lze prolomit během několika minut, lze očekávat zpřísnění pravidel, rychlé bezpečnostní aktualizace a možná i dočasné omezení funkcí.
