Drošības eksperts Viktors Markopuls atklāja, ka Google Gemini ir neaizsargāts pret tā sauktajiem ASCII kontrabandas uzbrukumiem. Šie uzbrukumi var likt mākslīgajam intelektam izpildīt slēptas komandas, kas paslēptas e-pastos vai kalendāra ielūgumos, lietotājam to nepamanot. Taču Google pagaidām neko nedara lietas labā.
Šāda veida uzbrukumā hakeris "slēpjas" slepena uzvedne tekstā, izmantojot smalku formatējumu, piemēram, ļoti mazu fonta izmēru vai īpašas rakstzīmes. Kad lietotājs jautā Gemini par ziņojuma kopsavilkumu, mākslīgais intelekts nolasīs arī šo slēpto komandu. Piemēram, tas var veikt Geminiuz meklēja sensitīvu informācijumace-pastos vai nosūtītā kontaktinformācija nezināmai personai.
Markopuls informēja Google par savu atklājumu un pat parādīja, kā to varētu izdarīt šādā veidā. Gemini lai viņai piešķirtu daļu saite uz viltotu e-veikaluTaču Google atbildēja, norādot, ka tā nav “drošības kļūda”, bet gan drīzāk sociālās inženierijas taktika – proti, problēma ir lietotāja pusē, nevis sistēmas.
Lai gan konkurējošie LLM modeļi, piemēram, chatGPT, Klods vai Otrais pilots ir izturējuši līdzīgus uzbrukumus, Gemini, DeepSeek a Groks tika veiksmīgi uzbrukti. google tādējādi paliekot viens no nedaudzajiem uzņēmumiem, kas vēl nav risinājis šo problēmu neatrisina.
Fotogalerie
Draudi ir vēl nopietnāki, jo Gemini ir šodien integrēta ar Google Workspace, t. i., ar tādiem rīkiem kā Gmail, Dokumenti vai Kalendārs. Hakeris var viegli piekļūt sensitīvai informācijai, izmantojot slēptu komandu.macTas nav saistīts ar lietotāju vai uzņēmumu. Google uzstāj, ka tā nav sistēmas kļūda, bet gan ar to, kā cilvēki ar to mijiedarbojas.
