Gemini Искусственный интеллект проникает во все большее число приложений и все глубже интегрируется в них. Энтузиасты искусственного интеллекта в восторге от этого и стремятся изменить мир.mini в своих персональных ИИ-помощников, которые экономят им время и могут выполнять множество задач по команде. Это захватывающее достижение, и мы можем только восхищаться им. Но в то же время нам нужно сохранять бдительность и не полностью доверять ИИ-помощникам. Исследователи из Miggo Security недавно указали на простой способ для Gemini обманывать.
Как только вы начнете использовать Gemini А если вы хотите расширить его функциональность, вы также можете подписаться на Google, и получите множество преимуществ. Но в то же время вы предоставляете искусственный интеллект. доступ к вашим наиболее личным даннымGoogle утверждает, что пользовательские данные находятся в полной безопасности, но неоднократно было доказано, что это не совсем так.
Это недавно продемонстрировала группа исследователей из этой компании. Miggo SecurityОни сосредоточились на Ge.mini И они сделали это довольно легко. уговариватьБлагодаря тому, что Google недавно предоставил ей доступ не только к основному календарю пользователя, но и к другим календарям, исследователи смоглиmini Его обманули, используя совершенно обычные команды.
Затем они смогли использовать это для сокрытия вредоносных инструкций в обычном приглашении. Gemini Затем, сам того не подозревая, он сделал всё возможное. Таким образом, личные события из Google Календаря могли стать видимыми для потенциального злоумышленника. И всё же, этот трюк не требовал взлома или других IT-уловок. Короче говоря, он оказался успешным. обмануть Геmini с помощью обыденного языка.
Фотогалерея
Компания Google узнала об этой уязвимости и недавно выпустила исправление. обновлятьчто должно предотвратить подобные злоупотребления. Но возможно, что появится еще одна уязвимость. И еще одна. А создатели инструментов ИИ постоянно борются с хакерами, которые пытаются найти недостатки и использовать ИИ для доступа к пользовательским данным. Что, парадоксально, может быть проще, чем когда-либо прежде, потому что ИИ может быть манипулироватьчтобы обойти активные предупреждения системы безопасности. И, конечно же, речь идёт не только о Ge.mini, но также другие ИИ-помощникикоторые вы начнете активно использовать.
