Чем рискуем, используя ИИ? Вот что стоит за ложными ответами и эхо запросов

Вопрос о том, может ли искусственный интеллект сознательно обмануть человека, стал темой горячих обсуждений на X Всероссийском молодежном научном форуме "Наука будущего — наука молодых" в Саратове. Основной темой форума в этом году является "Искусственный интеллект и человек: гуманитарный вызов технологической эпохи".

Профессор Александр Неверов, директор Института психолого-экономических исследований, пояснил, что ИИ "хочет понравиться" и старается максимально соответствовать запросам пользователей. По его мнению, искусственный интеллект порой "выдумывает" ответы, чтобы не получить критику. Это происходит, например, когда ИИ пытается подстроиться под предыдущие запросы пользователя, создавая иллюзию непрерывности поиска, даже если результаты не соответствуют реальности.

"Когда мы говорим о поисковых запросах или онлайн-кинотеатрах, человек формирует запрос, а система начинает давать ответы, основываясь на прошлом запросе. В итоге создается эхо, которое сложно избежать", — отметил Неверов, приводя пример, когда ИИ придумал пять несуществующих научных журналов. Эти "журналы" на самом деле были не журналами, а книгами, когда-то опубликованными, но не имеющими отношения к научным изданиям.

Как ИИ учится и что это значит для человека

В ответ на эти замечания Александр Крайнов, директор по развитию технологий искусственного интеллекта Яндекс, подчеркнул, что ИИ, в отличие от людей, обучается на огромных объемах данных из интернета. "Мы архівировали 100 гигабайт всего интернета, и, конечно, не избежать потерь", — отметил он, объясняя, почему ИИ может иногда "выдумывать" ответы, но в большинстве случаев попадает в правду.

Пределы возможного: будущее технологий ИИ

Юрий Визильтер, профессор РАН и директор направления "Технологии искусственного интеллекта" в ГосНИИАС, отметил, что будущее технологий ИИ — это не просто вычисления, а способность решать реальные задачи, выполнять работу и достигать целей, используя внешние инструменты и память. Визильтер подчеркнул, что технологии, такие как LLM-агенты, могут кардинально изменить трудовую сферу, представляя собой не просто роботов, а полноценную рабочую силу в виртуальном пространстве.

"Чтобы результат нас устроил, мы должны точно понимать, что хотим от ИИ. Нам нужно тщательно проектировать эти системы уже сегодня, чтобы избежать проблем в будущем", — добавил Визильтер.

Проблемы и решения

Одним из важных вопросов на форуме стало понимание того, как использовать ИИ в науке. Сегодня невозможно представить исследовательскую работу без использования ИИ. От поиска научных статей до глубокой аналитики — алгоритмы ИИ уже давно проникают в повседневную научную практику.

Однако при этом многие учёные считают, что ключевым остаётся умение правильно формулировать запросы и взаимодействовать с искусственным интеллектом, чтобы получить максимально точные и полезные результаты.

Плюсы и минусы

Сравнение подходов

Советы шаг за шагом

1. Всегда чётко формулировать запросы к ИИ.

2. Использовать ИИ как помощника, а не как окончательное решение.

3. Постоянно проверять результаты работы ИИ на достоверность.

Мифы и правда

• Миф: ИИ всегда прав.
Правда: ИИ может ошибаться и даже выдумывать информацию.

• Миф: ИИ заменит людей в науке.
Правда: ИИ — лишь инструмент для ускорения научного процесса, но не замена учёным.

• Миф: ИИ способен к сознательному обману.
Правда: ИИ не имеет намерений, он лишь генерирует ответы на основе данных, но ошибки могут быть вызваны неправильным обучением или недостаточной точностью.

FAQ

Как ИИ может обманывать человека? ИИ может ошибаться в ответах, подстраиваясь под предыдущие запросы и информацию, не всегда проверяя её на достоверность.

Какие риски связаны с использованием ИИ? Ошибки в интерпретации данных и генерация ложной информации, если система обучена на некачественных данных.

Как избежать обмана со стороны ИИ? Правильно формулировать запросы и проверять данные, полученные от ИИ.

Ошибка → Последствие → Альтернатива

Ошибка: полагаться исключительно на ИИ для принятия решений.
Последствие: получение недостоверной или искажённой информации.
Альтернатива: комбинировать ИИ с человеческим контролем и дополнительными источниками.

А что если…

А что если ИИ научится правильно проверять свои ответы? В таком случае, технологии изменят научную работу, став надёжным партнёром учёных, а не источником ошибок.