Gemini proniká do čím dál více aplikací a je v nich integrována čím dál hlouběji. Příznivci umělé inteligence jsou tím nadšeni a s chutí mění Gemini ve svou osobní AI asistentku, která jim šetří čas a zvládá spoustu úkonů dělat na povel. Jedná se o fascinující pokrok a nezbývá nám, než nad ním žasnout. Ale zároveň je třeba zachovávat si ostražitost a plně AI asistentům nedůvěřovat. Výzkumníci ze společnosti Miggo Security totiž nedávno upozornili na snadný způsob, jak Gemini oklamat.
Jakmile začnete používat Gemini a případně si pro zvýšení její funkčnosti ještě sjednáte předplatné od Googlu, získáte mnoho benefitů. Jenže zároveň tím dáváte umělé inteligenci přístup ke svým nejosobnějším datům. Google se sice zaklíná, že data uživatelů jsou v naprostém bezpečí, ale už několikrát se ukázalo, že to není tak úplně pravda.
Naposledy se to povedlo prokázat týmu výzkumníků ze společnosti Miggo Security. Ti se zaměřili na Gemini a dokázali ji poměrně snadno obelstít. Díky tomu, že jí Google nedávno dal přístup nejen k hlavnímu Kalendáři uživatelů, ale vpustil ji i do dalších kalendářů, docílili badatelé toho, že Gemini byla oklamána s pomocí zcela běžných příkazů.
Dokázali pak s její pomocí skrýt škodlivé instrukce do obyčejné pozvánky a Gemini poté nevědomky vše provedla. Soukromé události z Kalendáře Google se kvůli tomu mohly stát viditelnými pro případného útočníka. A přitom k tomuto triku nebylo nutné použít hackování ani jiné IT vychytávky. Zkrátka se povedlo oklamat Gemini s pomocí běžného jazyka.
Fotogalerie
Google se o této slabině dozvěděl a nedávno vydal aktualizaci, která by podobnému zneužití měla zabránit. Jenže je možné, že se objeví další slabina. A další. A tvůrci AI nástrojů jsou tak v neustálém souboji s hackery, kteří se snaží najít nedostatky a dostat se s pomocí AI k datům uživatelů. Což může být paradoxně snazší než kdy dřív, protože AI lze manipulovat, aby obešla aktivní bezpečnostní varování. A netýká se to samozřejmě jen Gemini, ale i dalších AI asistentů, které začnete aktivně používat.
