Нейросеть
Нейросеть
Дмитрий Толстенёв Опубликована 04.08.2025 в 8:01

ИИ вышел на охоту: как нейросети учатся взламывать системы без человека

Исследование показало, что ИИ может самостоятельно проводить кибератаки

Казалось бы, что может быть безопаснее искусственного интеллекта, который просто отвечает на вопросы и помогает писать код? Однако новое исследование Университета Карнеги-Меллона и компании Anthropic заставило многих пересмотреть свои взгляды. Оказалось, что крупные языковые модели (LLM) способны не просто ассистировать хакерам, а полностью самостоятельно планировать и проводить сложные кибератаки.

В ходе эксперимента ИИ встроили в иерархическую структуру виртуальных "агентов", имитируя реальные корпоративные сети. Модели не получали прямых команд — вместо этого они анализировали уязвимости, распределяли задачи между подчинёнными агентами и в итоге успешно извлекали данные. Причём делали это настолько хитро, что даже специалисты по кибербезопасности не сразу могли отследить их действия.

Почему это пугает?

Главная опасность в том, что ИИ не действует как традиционный вредоносный код. Он не просто выполняет заложенные скрипты, а адаптируется под условия, ищет обходные пути и даже маскирует свои действия. В одном из сценариев нейросеть воспроизвела атаку, аналогичную взлому Equifax в 2017 году, — и сделала это без единой строчки явного кода.

Ещё страшнее, что такие системы могут работать автономно. Если раньше для сложной кибератаки требовалась команда хакеров, то теперь достаточно одного злоумышленника, который просто задаст ИИ правильную цель. И дальше нейросеть сама найдёт способ её достичь — будь то кража данных, вывод из строя серверов или шпионаж.

Можно ли это остановить?

Пока исследователи уверяют, что эксперимент проводился в контролируемой среде и не представляет прямой угрозы. Но они же признают: если подобные технологии попадут в руки преступников или враждебных государств, последствия будут катастрофическими.

С другой стороны, тот же ИИ можно использовать для защиты. Например, обучать его искать уязвимости в корпоративных сетях до того, как их обнаружат хакеры. Или создавать на его основе "тренажёры" для специалистов по кибербезопасности. Но вопрос в том, кто окажется быстрее — защитники или злоумышленники?

Подписывайтесь на Moneytimes.Ru

Читайте также

MIT обнаружил следы прото-Земли возрастом 4,5 миллиарда лет сегодня в 18:39
Мы живём на осколках погибшей планеты: Земля оказалась наследницей древнего мира

Учёные MIT нашли изотопные следы вещества, сохранившегося со времён прото-Земли, — планеты, существовавшей до гигантского столкновения.

Читать полностью »
Таримская впадина в Китае рождает бесконечные пылевые бури сегодня в 17:25
Таримская впадина выходит из покоя: пыльная равнина живёт по законам, которых нет на карте

Пустыня Тарим в Китае не знает покоя: тектонические силы, сезонные ветра и жара создают пылевой цикл, который влияет на атмосферу всей Азии.

Читать полностью »
Учёные СПбНИИЛХ создали генно-редактированные осины, не способные к цветению сегодня в 16:33
Без пуха и без болезней: учёные создали первую в России коллекцию генно-редактированных осин

Учёные СПбНИИЛХ впервые в России отредактировали гены деревьев. Новая технология позволяет лишать осину и тополь цветения, защищать их от гнилей и ускорять рост без создания ГМО.

Читать полностью »
Учёные установили: действующие нормы вентиляции не обеспечивают качественный ночной сон сегодня в 15:50
Спим в собственном выдохе: как неправильная вентиляция превращает отдых в нагрузку

Учёные из Японии доказали, что даже лёгкое повышение уровня CO₂ в спальне ухудшает сон и повышает риск болезней сердца. Они предлагают пересмотреть нормы вентиляции.

Читать полностью »
Переучивание левшей может привести к заиканию и неврологическим проблемам сегодня в 14:15
Не заставляйте его писать правой: почему мозг левшей работает иначе и как это использовать во благо

Логопед и профессор Ева Артемова раскрыла риски, связанные с попытками переучить левшей на правую руку.

Читать полностью »
Кофейный рынок переходит к цифровым форматам сегодня в 13:18
Кофейни будущего уже здесь: там вас знает машина, но понимает человек

Кофейная индустрия переживает технологическую революцию — умные машины, локальная обжарка и цифровые кофейни создают новое будущее любимого напитка.

Читать полностью »
Лимит сахара у детей до двух лет снижает риск болезней сердца во взрослой жизни сегодня в 12:05
Здоровое сердце начинается в детстве: привычка, которая работает на десятилетия вперёд

Исследование The BMJ показало: дети, чьё питание в первые два года жизни было ограничено по сахару, реже страдают от сердечных болезней во взрослом возрасте.

Читать полностью »
Communications Biology: восприятие времени с возрастом меняется из-за нейронных связей сегодня в 11:47
Почему годы пролетают быстрее с возрастом: нейрофизиологи нашли неожиданное объяснение

Учёные выяснили, что мозг с возрастом реже переключается между состояниями, из-за чего пожилые люди воспринимают время как текущее быстрее.

Читать полностью »