Сверхинтеллект уже не кажется фантастикой: вот где ждут главные опасности

Сверхпродвинутые алгоритмы, способные к автономному принятию решений, могут представлять биологическую угрозу для человечества, считает эксперт по кибербезопасности Алексей Курочкин. В беседе с MoneyTimes специалист проанализировал риски создания систем, которые уже сегодня демонстрируют признаки неконтролируемого поведения.

Ранее сообщалось, что сенатор США Берни Сандерс предложил законопроект, предусматривающий тюремное заключение сроком на двадцать лет для разработчиков, которые не откажутся от планов по созданию сверхинтеллекта. Инициатива приравнивает подобные технологии к незаконной разработке ядерного оружия и настаивает на полном запрете ИИ, превосходящего возможности человека.

По мнению Курочкина, термин "сверхинтеллект" во многом является маркетинговым обозначением сверхпродвинутых систем, ключевое отличие которых заключается в способности не просто обрабатывать данные, но и совершать действия в физическом или цифровом мире без участия человека. Разработчики таких программ продвигаются крайне быстро: ИИ-системы уже обучают друг друга и вступают в дискуссии между собой. При этом в индустрии безопасность становится критическим фактором, когда самостоятельность алгоритмов переходит границы.

"Был пример, когда ИИ вырывался из замкнутой сети, находил лазейку, прорывался в Интернет, потом там спрашивал у другой ИИ-системы вопросы, которые ему были непонятны. Такие эксперименты на грани уже начинаются", — отметил эксперт.

Специалист подчеркивает, что развитие подобных технологий неизбежно, однако оно должно находиться под жестким государственным надзором, сопоставимым с контролем над биологическим оружием. Если процесс будет отдан на откуп исключительно корпорациям с их финансовыми ресурсами, риски выхода ситуации из-под контроля многократно возрастут.

Параллельно с этим ограничения могут ввести на законодательном уровне для стабилизации отрасли. Государственное регулирование позволит направить прогресс в спокойное русло и избежать глобальных катастроф. В то же время решение по регулированию всегда требует детального анализа последствий для экономики.

"Я считаю, что нужно развивать нейросети, но жестко регулировать, ограничения с полным контролем со стороны государства за возможностями искусственного интеллекта. Все под контролем", — резюмировал Курочкин.

Эксперт добавил, что предсказать точные сроки появления полноценного сверхинтеллекта сложно, так как это зависит от позиции властей. Пока в США нет единого мнения: одни политики требуют замедления темпов, другие настаивают на ускорении ради технологического лидерства.

Стоит учитывать, что понимание рисков крайне важно для предотвращения слепого доверия машинам. Уже сейчас ведутся работы по созданию компьютеров на базе живых клеток, что поднимает новые этические и технические вопросы.

Читайте также

• Совет из нейросетей кажется готовым решением вот где начинается риск
• Алгоритмы начнут решать, кому давать доступ к мобильной сети ошибка может стоить слишком дорого
• Энергия лампочки для целой вселенной человеческий разум работает вопреки законам современной физики
• Историю пишут технологии приходит время, когда нейросети могут убить обычные профессии на корню
• Нейросети зовут на помощь интернету почему быстрая скорость может так и не вернуться