Bezpečnostní expert Viktor Markopoulos odhalil, že Google Gemini je zranitelná vůči tzv. ASCII smuggling útokům. Tyto útoky mohou přimět umělou inteligenci vykonávat skryté příkazy ukryté v e-mailech nebo kalendářních pozvánkách, aniž by si toho uživatel všiml. Ale Google s tím zatím vůbec nic nedělá.
Při tomto typu útoku hacker „schová“ tajný prompt do textu pomocí nenápadného formátování – například ve velmi malé velikosti písma nebo speciálních znacích. Když uživatel požádá Gemini o shrnutí zprávy, AI přečte i tento skrytý příkaz. Ten může například přimět Gemini, aby vyhledala citlivé informace v e-mailech nebo odeslala kontaktní údaje neznámé osobě.
Markopoulos informoval Google o svém objevu a dokonce ukázal, jak lze tímto způsobem Gemini přimět, aby sdílela odkaz na falešný e-shop. Google ale reagoval vyjádřením, že nejde o „bezpečnostní chybu“, nýbrž o taktiku sociálního inženýrství – tedy problém, který leží na straně uživatele, nikoli systému.
Zatímco konkurenční LLM modely jako chatGPT, Claude nebo Copilot podobným útokům odolaly, Gemini, DeepSeek a Grok byly úspěšně napadeny. Google tak zůstává jednou z mála firem, která tento problém zatím neřeší.
Fotogalerie
Hrozba je o to vážnější, že Gemini je dnes integrována s Google Workspace, tedy s nástroji jako Gmail, Dokumenty nebo Kalendář. Hacker tak na základě skrytého příkazu může snadno získat přístup k citlivým informacím o uživateli nebo firmě. Google přesto trvá na tom, že nejde o chybu systému, ale o způsob, jakým s ním lidé interagují.
