Взгляд изнутри: как ИИ формирует социальные правила без человеческого вмешательства

Недавние исследования в области искусственного интеллекта показали, что модели на базе больших языковых моделей (LLM) способны самостоятельно формировать социальные нормы и языковые правила без участия человека.

В статье, опубликованной в журнале Science Advances, ученые продемонстрировали, что ИИ-агенты, взаимодействуя друг с другом, могут достигать консенсуса по поводу общих языковых стандартов, подобно тому, как это происходит в человеческих сообществах.

Команда исследователей из Университета Сити Сент-Джордж (Лондон) и ИТ-университета Копенгагена адаптировала классическую модель игры Naming game, которая используется для изучения социальных конвенций у людей.

В экспериментах участвовали группы ИИ-агентов от 24 до 200 человек, которые выбирали "имена" (например, буквы алфавита или случайные строки символов) из общего набора. Если два агента выбирали одинаковое имя, они получали вознаграждение; в противном случае — штраф и обмен информацией о своих выборах.

Результаты показали, что такие взаимодействия позволяют моделям искусственного интеллекта самостоятельно вырабатывать общие стандарты и нормы коммуникации без внешнего вмешательства. Это открывает новые горизонты в понимании развития социальных структур у машин и их способности к саморегуляции.