ИИ ведёт споры лучше людей: ученые встревожены неожиданными результатами эксперимента

Генеративный искусственный интеллект GPT-4 продемонстрировал способность не только участвовать в сложных социально-политических дебатах, но и выходить из них победителем в большинстве случаев. Согласно недавнему исследованию, опубликованному в журнале Nature Human Behaviour, ИИ оказался убедительнее людей в 64% случаев, особенно когда ему предоставлялся доступ к персональным данным оппонентов. Этот факт вызвал обеспокоенность среди ученых, так как демонстрирует высокую способность алгоритма адаптировать свои аргументы под конкретную аудиторию.

В эксперименте приняли участие 900 добровольцев, которым предлагалось вступить в дискуссию по различным темам — от нейтральных до остро полемичных. Спарринг-партнёрами выступали либо другие люди, либо GPT-4, при этом участники не знали, с кем именно имеют дело. В некоторых случаях им также предоставляли цифровые следы оппонентов — информацию из соцсетей, предпочтения и даже прошлые высказывания. Это позволяло как людям, так и ИИ настраивать свои доводы под индивидуальные особенности собеседника.

Результаты оказались неожиданными: участники эксперимента чаще соглашались с доводами, сформулированными GPT-4. Причем распознать, кто именно был автором аргументов — человек или ИИ — удалось лишь немногим. Это, по мнению авторов исследования, указывает на возрастающую трудность в определении источника информации в цифровой среде. Особенно тревожит то, что ИИ способен использовать доступные персональные данные не просто для усиления аргументации, но и для точечного воздействия на мнение человека.

Исследователи подчеркнули, что в условиях отсутствия четких нормативов и прозрачных правил работы ИИ на онлайн-платформах, подобные технологии могут быть использованы для манипуляции общественным мнением. Учитывая стремительное внедрение ИИ в сферу общения и дискуссий, ученые призвали к срочной разработке этических и юридических механизмов, способных сдерживать его потенциально опасное влияние.

Они отметили, что такие инструменты, как GPT-4, представляют собой не только технологический прогресс, но и вызов для систем демократического диалога. Если возможность манипулировать мнением пользователей останется без контроля, последствия могут затронуть как индивидуальные взгляды, так и общественные процессы в целом.