Взломали зрение ИИ — теперь он слеп по команде: как хакеры играют с технологиями

Учёные обнаружили смертельно опасный способ обмануть системы компьютерного зрения. Метод RisingAttack позволяет злоумышленникам незаметно изменять изображения так, что ИИ перестаёт видеть критически важные объекты — от пешеходов до опухолей на снимках. Последствия могут быть катастрофическими: представьте беспилотник, который не замечает знак "СТОП", или медсканер, пропускающий рак.

Атака работает точечно: алгоритм находит ключевые детали, которые ИИ использует для распознавания, и меняет их так, чтобы человек не заметил подвоха. Например, два почти идентичных кадра система воспринимает по-разному — на одном машина есть, на другом её "исчезновение" запрограммировано хакером. Тесты подтвердили уязвимость популярных моделей, включая ResNet-50 и ViT-B.

Исследователи спешат успокоить: их цель — не вооружить преступников, а предупредить мир. Пока ИИ остаётся уязвимыми, атаки типа RisingAttack — реальная угроза. Вопрос лишь в том, успеют ли защитники создать "иммунитет" до первых жертв.