ИИ вышел на охоту: как нейросети учатся взламывать системы без человека

Казалось бы, что может быть безопаснее искусственного интеллекта, который просто отвечает на вопросы и помогает писать код? Однако новое исследование Университета Карнеги-Меллона и компании Anthropic заставило многих пересмотреть свои взгляды. Оказалось, что крупные языковые модели (LLM) способны не просто ассистировать хакерам, а полностью самостоятельно планировать и проводить сложные кибератаки.

В ходе эксперимента ИИ встроили в иерархическую структуру виртуальных "агентов", имитируя реальные корпоративные сети. Модели не получали прямых команд — вместо этого они анализировали уязвимости, распределяли задачи между подчинёнными агентами и в итоге успешно извлекали данные. Причём делали это настолько хитро, что даже специалисты по кибербезопасности не сразу могли отследить их действия.

Почему это пугает?

Главная опасность в том, что ИИ не действует как традиционный вредоносный код. Он не просто выполняет заложенные скрипты, а адаптируется под условия, ищет обходные пути и даже маскирует свои действия. В одном из сценариев нейросеть воспроизвела атаку, аналогичную взлому Equifax в 2017 году, — и сделала это без единой строчки явного кода.

Ещё страшнее, что такие системы могут работать автономно. Если раньше для сложной кибератаки требовалась команда хакеров, то теперь достаточно одного злоумышленника, который просто задаст ИИ правильную цель. И дальше нейросеть сама найдёт способ её достичь — будь то кража данных, вывод из строя серверов или шпионаж.

Можно ли это остановить?

Пока исследователи уверяют, что эксперимент проводился в контролируемой среде и не представляет прямой угрозы. Но они же признают: если подобные технологии попадут в руки преступников или враждебных государств, последствия будут катастрофическими.

С другой стороны, тот же ИИ можно использовать для защиты. Например, обучать его искать уязвимости в корпоративных сетях до того, как их обнаружат хакеры. Или создавать на его основе "тренажёры" для специалистов по кибербезопасности. Но вопрос в том, кто окажется быстрее — защитники или злоумышленники?