Нейросеть нашла ответ быстрее человека: почему даже убедительная информация требует проверки

Информацию, полученную от искусственного интеллекта, необходимо подвергать тотальной проверке, так как нейросети выдают лишь субъективное суждение, а не истину в последней инстанции, заявил директор аналитического центра, блогер Сергей Богатырев. В беседе с MoneyTimes эксперт подчеркнул, что результаты работы алгоритмов напрямую зависят от мировоззрения их создателей.

Ранее сообщалось, что ИИ ошибается в 57% финансовых ответов, а при разборе сложных кейсов доля недостоверных данных достигает 99%. В ходе тестирования 18 моделей на 10 тысячах вопросов алгоритмы путались в расчетах, игнорировали налоговые изменения и выдумывали несуществующие юридические нормы. Даже наиболее продвинутые системы, работающие в режиме углубленного рассуждения, допускали ошибки почти в 40% случаев.

Например, некорректная трактовка налогового законодательства одной из популярных моделей могла привести пользователя к крупному штрафу.

Аналитик скептически отнесся к попыткам вывести точную статистику ошибок нейросетей, напомнив, что ежедневно появляются десятки новых версий программного обеспечения. По его мнению, ИИ — это не калькулятор, а инструмент, имитирующий мышление ребенка, обученного взрослыми с разным культурным кодом. В ситуациях, где цена промаха высока, контроль становится критически важным условием работы.

"Обязательно всегда перепроверять и перепроверять ИИ. Насчет процентовки я думаю, что это ерунда. У нас не просто тысячи, а десятки тысяч моделей искусственного интеллекта. Для того чтобы вывести цифры, о которых вы говорите, должны были все модели оттестировать. Я думаю, что эти цифры не объективны", — пояснил Богатырев.

Аналитик отметил, что ответы систем не являются математической истиной. Часто результат — это трансляция ценностей разработчиков, будь то китайские или американские корпорации. При внедрении таких инструментов в производственные процессы необходимо учитывать безопасность и возможную предвзятость алгоритма.

"Компьютер в данном случае работает рассудительно, на базе тех ответов, которым его обучили. Мы понимаем, что в данном случае модель выступает чем-то наподобие ребенка, которого обучил взрослый человек. Этот ребенок получит разное воспитание. Мы получаем не стопроцентный ответ, мы получаем экспертное суждение определенное, не претендующее на истинность", — рассказал специалист.

Несмотря на риск неточностей, эксперт признает высокую эффективность ИИ в сборе первичных данных. Процесс, который раньше занимал часы ручного мониторинга сети, теперь выполняется мгновенно. Специалисты в области ИТ подчеркивают, что критическое мышление остается главным фильтром при взаимодействии с машиной. Для ускорения верификации современные разработчики внедряют функции прямого цитирования источников.

Богатырев резюмировал, что использование ИИ не отменяет принципа двойного контроля. Пользователь экономит время на поиске, но обязан потратить его на аудит финального решения. Во многих отраслях, включая здоровье и финансы, риск ошибки перевешивает удобство автоматизации. Даже при использовании систем, претендующих на сверхинтеллект, ответственность за конечный результат лежит на человеке.

Читайте также

• Искусственный интеллект взялся за прогноз погоды почему атмосфера все равно поставит ему ловушку
• Нейросеть переберет в лотерее миллионы комбинаций почему шанс угадать джекпот не станет больше
• Зарубежные нейросети оставили без запрета за таким решением скрылась одна важная деталь
• Рамки для нейросетей какие ограничения могут ввести
• Нейросеть пишет, автор подписывает книжные платформы нашли способ вычислить подмену