Бесконтрольный ИИ пугает, остановка тоже опасна: человечество оказалась между двумя серьезными рисками

Замедление разработки нейросетей может привести к технологическому отставанию страны и потере контроля над информационным полем, считает программист, преподаватель Московской школы программистов Кирилл Ситнов. Эксперт проанализировал риски форсированного развития и возможной стагнации отрасли в комментарии для MoneyTimes.

Ранее генеральный директор корпорации Anthropic Дарио Амодеи на заседании Совбеза ООН заявил, что технологии ИИ способны стать глобальной угрозой для всего человечества в случае потери контроля над алгоритмами. Подобные опасения подтверждают и другие специалисты, указывая, что сверхинтеллект уже не кажется фантастикой.

Ситнов подчеркнул, что Россия сегодня входит в число ведущих игроков в сфере ИИ, но замедление темпов разработки чревато, в том числе, идеологическими искажениями. В частности, западные нейросети уже демонстрируют предвзятость при описании исторических событий, заметно принижая роль СССР в разгроме нацизма во Второй мировой войне. При этом профессиональное сообщество настаивает, что любую нейросеть нельзя оставлять без надзора.

"По поводу замедления развития искусственного интеллекта, это палка о двух концах. Если в борьбе с нейросетями нам первыми начать ограничивать развитие нейросетей, в конечном итоге можем прийти к тому, что просто отстанем. А страны, являющиеся лидерами, в перспективе будут диктовать свою историю и свою правду жизни", — отметил Ситнов.

Проблема верификации данных становится ключевой при массовом внедрении технологий. К примеру, Минпросвещения РФ уже разработало рекомендации для педагогов, ограничивающие самостоятельное использование нейросетей младшими школьниками из-за склонности детей доверять любым сгенерированным ответам. В образовательной среде подчеркивают, что информация требует тщательной проверки, даже если она выглядит убедительно.

"Для начальных классов сказали, что нельзя им давать возможности пользоваться нейросетями в одиночку, а обязательно помогать с верификацией данных в силу того, что информацию из нейросетей младшие школьники могут принимать за чистую монету. А мы знаем, что искусственный интеллект может ошибаться", — пояснил программист.

Бесконтрольное использование ресурсов ИИ несет в себе угрозу деградации аналитических навыков человека. Регуляторы в разных странах ищут баланс, понимая, что рамки для нейросетей необходимы для защиты персональных данных и предотвращения утечек. Отсутствие ограничений в критических секторах, таких как оборонная промышленность, может спровоцировать опасный резонанс.

Специалист добавил, что важно обучать молодежь правилам кибербезопасности с акцентом на защиту личных сведений. Сейчас понимание рисков нейросетей становится обязательным условием для безопасного сосуществования с технологиями.

"Если не ограничивать нейросети, может быть ряд проблем, безрассудное использование таких ресурсов приведет к стагнации способностей самого человека. Неизвестно, насколько глубокая интеграция будет искусственного интеллекта в ту же самую оборонку, а в худшем случае еще и в ядерку. За этим надо следить", — резюмировал Ситнов.

Читайте также

• Нейросети стали обычным помощником школьников где проходит грань между пользой и деградацией
• Совет из нейросетей кажется готовым решением вот где начинается риск
• Дипломы под угрозой искусственный интеллект заставляет вузы пересмотреть формат экзаменов
• Компьютер на человеческих нейронах уже работает ученые подошли к черте, за которой все меняется
• Зарубежные нейросети оставили без запрета за таким решением скрылась одна важная деталь