ИИ стал честнее и осторожнее: как в Сбере научили машины меньше фантазировать

Большие языковые модели известны тем, что любят "придумывать". Они уверенно выдают ложные факты так, будто держат в руках энциклопедию. Это явление получило название "галлюцинации ИИ" и давно стало головной болью тех, кто внедряет искусственный интеллект в реальные процессы. В Сбере решили пойти против этой склонности машин и создали инструмент, который способен вовремя распознать сбивчивые ответы.

Экономия на фантазиях

Разработанный метод, по словам команды, повышает точность обнаружения таких ошибок на треть и при этом требует минимального обучения. Вместо тысяч примеров, как принято в индустрии, новые метамодели довольствуются всего 250 кейсами. В компании подчеркнули: это не только ускоряет внедрение решений, но и экономит ресурсы, которые обычно тратятся на бесконечную разметку данных.

Новый взгляд на работу ИИ

Руководитель центра практического искусственного интеллекта Сбера Глеб Гусев отметил, что их подход открывает возможности пересмотреть саму систему оценки ответов машин. Он подчеркнул: даже небольшой объём данных при правильной обработке может дать высокую точность, а это особенно ценно в сферах, где каждое слово модели имеет цену.

Что это значит для пользователей

В результате компании, которые полагаются на RAG-системы и другие инструменты ИИ, смогут рассчитывать на более надёжные ответы и меньшие расходы. Машинам, конечно, всё ещё свойственно "фантазировать", но теперь у человека появилось больше шансов вовремя заметить, когда искусственный интеллект слишком увлёкся историей.