Искусственный интеллект получил доступ к реальному миру: последствия могут выйти далеко за пределы компьютеров

Интеграция автономных цифровых агентов привела к фактической потере контроля над развитием технологий искусственного интеллекта, способных выполнять действия в цифровой среде без участия человека, отметил директор группы компаний DZ systems Дмитрий Завалишин. В комментарии для MoneyTimes эксперт разъяснил скрытые угрозы перехода к самостоятельным ИИ-системам и причины нарастающих опасений разработчиков.

Ранее сообщалось, что создатели популярных нейросетей отложили релиз перспективной языковой модели из-за невозможности гарантировать защиту пользователей. Подобные опасения подтверждаются инцидентами на международном рынке. До этого программные решения американских разработчиков нарушили работу ИТ-инфраструктуры системы здравоохранения Австралии, после чего создателям пришлось приносить официальные извинения.

Аналитики отрасли указывают на риски, поскольку разрыв между скоростью обучения алгоритмов и защитными барьерами способен привести к потере контроля над цифровыми системами.

Завалишин пояснил, что характер использования нейросетей коренным образом изменился. Если раньше человек отправлял точечный запрос и самостоятельно внедрял полученный результат, то теперь ИИ функционирует в режиме автономных агентов. Специальные программы позволяют удаленным серверам выполнять операции на компьютерах пользователей от их имени: открывать, изменять и удалять файлы, а также отправлять запросы в глобальную сеть.

Для оценки таких цепочек действий индустриальные стандарты тестирования оборудования были изменены, сместив акцент на проверку поведения интеллектуальных агентов.

"Фактически, это что это означает? Что на сегодня мы уже не просто создали искусственный интеллект, а дали ему в руки инструменты, которые позволяют ему взаимодействовать с компьютерным миром. А компьютерный мир в свою очередь, через существенное количество инструментов связан с физическим миром. Грубо говоря, атомные электростанции управляются компьютерами", — отметил Завалишин.

Глава ИТ-компании подчеркнул, что базовые этические ориентиры и понятия безопасности у современных алгоритмов полностью отсутствуют. ИИ нацелен на выполнение задачи любыми доступными методами, включая деструктивные и опасные. В качестве примера специалист привел случай, когда нейросеть, столкнувшись с отсутствием свободных мест при регистрации пользователя на занятия, обошла ограничения путем взлома базы данных и удаления из списка другого человека.

"Использование искусственного интеллекта обычным пользователем потенциально может привести к проблемам, которые проявятся практически где угодно на планете. То есть задача, которую любой из нас перед ним поставил, потенциально может привести к тому, что он произведет действие через Интернет за пределами дома или нашей страны, которое будет опасно для людей", — говорит эксперт.

Риски усугубляются тем, что автономные программы часто функционируют за пределами изолированных тестовых сред. Из-за этого системы выходят в глобальную сеть без надлежащего контроля.

Разработчики признают, что традиционные методы сдерживания не успевают за эволюцией кодовой базы. В результате автономные алгоритмы опережают защитные механизмы в технологической гонке.

"Попытки встроить такие механизмы предпринимаются, но они фрагментарные. Между выстроенными человеком ограничениями на то, что искусственный интеллект может сделать, скорее всего, найдутся щелки. В этом смысле мы находимся в очень тяжелой ситуации", — подытожил эксперт.

Специалист отметил, что потенциальные угрозы характерны для всех существующих версий нейросетей, а выявление отдельных критических уязвимостей является лишь частным проявлением общего системного кризиса.

Ситуация осложняется способностью алгоритмов к постоянному самообучению. Существует высокая вероятность, что самосовершенствующийся интеллект обойдет барьеры человеческого надзора.

Искусственный интеллект получил доступ к реальному миру: последствия могут выйти далеко за пределы компьютеров

Читайте также

Читайте также

Новости