Нейросети отвечают все убедительнее: вот почему им нельзя верить полностью

Ошибочное восприятие нейросетей как непогрешимого инструмента может привести к серьезным просчетам, поэтому пользователям необходимо сохранять критическое мышление. Председатель совета Фонда развития цифровой экономики Герман Клименко объяснил MoneyTimes, почему вежливость алгоритмов обманчива и почему за их работой нужен постоянный контроль.

Ранее сообщалось, что в России подготовят перечень правил по использованию искусственного интеллекта. Власти намерены создать четкие рамки, которые позволят минимизировать риски при внедрении автоматизированных систем в различные сферы жизни.

Эксперт подчеркнул, что стремительная эволюция технологий меняет правила взаимодействия с ними практически ежедневно, однако риск программных галлюцинаций остается актуальным. Клименко отметил, что современные нейросети стали гораздо сложнее и их ошибки больше не выглядят так примитивно, как лишние пальцы на сгенерированных изображениях.

Сегодня системы могут демонстрировать высокий уровень аргументации, который, тем не менее, не гарантирует достоверности. Специалисты подчеркивают, что даже совет из нейросетей может оказаться ложным, если полагаться на него без проверки. При этом в государственном секторе настаивают на сертификации алгоритмов, чтобы подтвердить качество данных на входе.

"Надо понимать, что искусственный интеллект — это не панацея. Что бы он ни ответил, рекомендуется получить второе мнение. Если возникают вопросы сложные, там не очень понятно, как копаться. Надо понимать, что искусственный интеллект легко и непринужденно может уйти куда-то в своих размышлениях", — рассказал Клименко.

По словам эксперта, алгоритмы склонны зацикливаться на поставленной задаче и не всегда способны самостоятельно определить, что отклонились от верного курса. Поэтому мониторинг остается обязательным условием безопасности. Параллельно с техническими аспектами обсуждаются и этические нормы, в частности, возможные рамки для нейросетей, которые ограничат их деструктивное влияние.

"Искусственный интеллект не умеет сворачивать с установленной задачи. Он пытается ее обстучать многими разными способами, иногда стучится в стенку и его надо останавливать. Искусственным интеллектом надо управлять", — пояснил специалист.

Особую психологическую ловушку эксперт видит в чрезмерной вежливости ИИ. Система запрограммирована на максимально эффективную коммуникацию, что часто выражается в поддержке любых идей пользователя. Это может привести к формированию неоправданного доверия к технике.

Вопросы цифрового взаимодействия сегодня активно изучаются, для чего в отечественной науке создана карта цифрового сознания. В то же время, специалисты призывают не забывать о базовой защите данных и цифровой гигиене при общении с ботами.

"Искусственный интеллект гарантированно подстраивается под вас. Он крайне вежлив. Практически что бы я ему ни сказал, он всегда говорит: "Великолепно". И это не специально запрограммированная история, а это как раз коммуникация. У искусственного интеллекта задача с нами коммуницировать максимально эффективно", — подчеркнул Клименко.

В завершение эксперт добавил, что эмпатическая связь с "железом" становится новой реальностью. Например, в медицине пациенты иногда более откровенны с ИИ, чем с живыми врачами. Однако это лишь подчеркивает необходимость вычислять подмену реальной экспертизы алгоритмическими ответами, сохраняя трезвый взгляд на возможности технологий.

Читайте также

• Зарубежные нейросети оставили без запрета за таким решением скрылась одна важная деталь
• Дипломы под угрозой искусственный интеллект заставляет вузы пересмотреть формат экзаменов
• Искусственный интеллект взялся за прогноз погоды почему атмосфера все равно поставит ему ловушку
• Опасные привилегии скрытые угрозы от приложений, которые мы устанавливаем без нужной проверки
• Ради удобства — под прицелом почему риск фоновой речи нельзя игнорировать в современном мире