Искусственный интеллект Google открыл лазейки: данные пользователей утекали через эти скрытые команды

Исследователи в области кибербезопасности сообщили о трёх критических уязвимостях в системе искусственного интеллекта Google Gemini. Комплекс проблем получил название Gemini Trifecta. Лазейки позволяли хакерам похищать личные данные пользователей и отслеживать их действия в реальном времени. Хотя Google оперативно устранила ошибки, специалисты подчёркивают: сам факт инцидента показывает, насколько опасными могут быть уязвимости ИИ, если их используют злоумышленники.

Как работала первая уязвимость

Первая проблема получила название Gemini Cloud Assist. Она позволяла внедрять вредоносные команды через заголовки HTTP User-Agent. Эти команды отображались в логах системы. Когда пользователь просил Gemini проанализировать журналы, искусственный интеллект невольно обрабатывал скрытые инструкции, заложенные хакерами. Таким образом, система выполняла чужие команды без ведома пользователя.

Вторая лазейка в персонализации поиска

Вторая уязвимость была связана с персонализацией поиска. Хакеры могли вносить в историю браузера поддельные запросы, которые ИИ воспринимал как реальные команды. В результате Gemini реагировал на них так же, как на легитимные инструкции, что открывало злоумышленникам возможность манипулировать системой и получать доступ к данным.

Самая опасная третья уязвимость

Наиболее серьёзной оказалась третья проблема, связанная с браузерным инструментом Gemini. Злоумышленники могли подсовывать вредоносные ссылки, передавая вместе с ними пользовательские данные в параметрах URL. Это приводило к тому, что личная информация, включая геолокацию, могла утекать напрямую к атакующим.

Сценарий атак в два этапа

Эксперты пояснили, что атаки происходили в два шага. Сначала хакеры внедряли скрытые команды или поддельные поисковые запросы. После этого они незаметно извлекали пользовательские данные, не вызывая подозрений. В ходе тестов удалось показать, что таким образом можно получить доступ к предпочтениям, перемещениям и другой конфиденциальной информации.

Чем это грозит пользователям

Хотя Google уже закрыла уязвимости, инцидент стал тревожным сигналом. Эксперты предупреждают, что искусственный интеллект может использоваться не только для защиты, но и как инструмент атак. Если подобные ошибки будут допущены в будущем, масштабы угрозы могут оказаться значительно больше.

Сравнение

Мифы и правда

1. Миф: уязвимости уже использовались массово.
   Правда: доказательств реальных атак пока нет, но сценарий был воспроизведён в лаборатории.

2. Миф: Google проигнорировала проблему.
   Правда: компания закрыла уязвимости сразу после их выявления.

3. Миф: такие ошибки уникальны только для Gemini.
   Правда: подобные уязвимости могут появляться и в других ИИ-системах.

FAQ

Как пользователи могли пострадать?

Хакеры могли получить доступ к истории браузера, предпочтениям, геолокации и другой личной информации.

Можно ли полностью защититься от подобных атак?

Абсолютной защиты нет, но регулярные обновления системы и осторожность при работе с подозрительными ссылками снижают риски.

Что делает Google для предотвращения подобных случаев?

Компания усиливает аудит безопасности, внедряет внутренние проверки и запускает программы для исследователей, чтобы быстрее находить уязвимости.

А что если…

А что если подобные уязвимости будут оставаться незамеченными дольше? В таком случае искусственный интеллект может превратиться в мощный инструмент слежки. Он будет использоваться не только для кражи данных, но и для управления устройствами пользователей. Масштаб проблемы может выйти за рамки одной платформы и затронуть все сервисы, работающие на базе ИИ.