ИИ может поймать террориста — или стать им: обнаружилась скрытая угроза новой технологии

В Москве прошло важное мероприятие, посвящённое применению искусственного интеллекта в медиа для борьбы с терроризмом. Открывая круглый стол, президент Международной академии телевидения и радио и политический обозреватель Общественного телевидения России Леонид Млечин подчеркнул, что искусственный интеллект способен стать одновременно мощным инструментом и серьёзной угрозой. Он отметил, что ИИ обладает потенциалом оказаться как крайне полезным, так и крайне опасным, акцентируя внимание на необходимости взвешенного подхода к его использованию.

В рамках обсуждения член правления Регионального общественного центра интернет-технологий Андрей Ярных поднял проблему дипфейков — технологий создания фальшивых видео и аудиозаписей, которые могут быть использованы для манипуляций и распространения дезинформации. Эта тема вызвала живой отклик, поскольку именно дипфейки представляют значительную угрозу безопасности и общественному доверию в цифровую эпоху.

Особое внимание уделили вопросам выявления и распространения радикального контента в цифровых медиа, о чём говорила заведующая лабораторией технических средств журналистики факультета журналистики МГУ имени Ломоносова Юлия Нефёдова. Она подробно рассказала о сложностях мониторинга и блокировки экстремистских материалов в интернете, подчеркнув, что эффективное противодействие требует не только технических решений, но и системного взаимодействия между государственными и общественными структурами.

В свою очередь ведущий научный сотрудник кафедры психологии личности факультета психологии того же университета Сергей Ениколопов предупредил об угрозах, которые несёт в себе развитие искусственного интеллекта. Он акцентировал внимание на возможных рисках утраты контроля над ИИ-системами, что может привести к непредсказуемым последствиям как в информационной сфере, так и в безопасности общества в целом.

Член Совета по внешней и оборонной политике Александр Михайлов, выступая на мероприятии, обратил внимание на колоссальные возможности нейросетей в выявлении, пресечении и ликвидации преступлений, включая террористические акты. Он подчеркнул, что грамотное использование таких технологий может существенно повысить эффективность правоохранительных органов и служб безопасности, минимизируя при этом негативные побочные эффекты.

Итогом круглого стола стала договорённость о необходимости дальнейшей совместной работы специалистов из разных областей для создания сбалансированных и эффективных механизмов использования искусственного интеллекта в медиасреде. Это позволит не только выявлять и предотвращать террористические угрозы, но и минимизировать риски злоупотреблений и распространения вредоносной информации.