Обошлись без человека: нейросети начали договариваться между собой как люди

ИИ научился договариваться сам с собой — без участия человека. Об этом сообщает журнал Science Advances. Учёные из Великобритании и Дании провели серию экспериментов, в которых несколько десятков нейросетей общались между собой, не получая никаких указаний от человека.

В каждом раунде два случайных ИИ-агента выбирали одно имя из списка. Совпали — награда, не совпали — штраф и подсказка, что выбрал другой. Им не говорили, как правильно, и они не знали, что играют в группе. Всё, что у них было, — короткая память и опыт пары предыдущих выборов.

Но спустя время они начали подбирать одинаковые имена — и продолжали использовать их. Так между ними появились общие правила, как в обычной жизни люди договариваются, что называть "спамом" или "лайком". Причём машины не копировали кого-то одного, а просто учились от каждой пары.

В одном из экспериментов даже удалось показать, что небольшая, но настойчивая группа может договориться и изменить правила всей системы — как это бывает у людей. Учёные считают, что это открытие может повлиять на то, как мы создаём безопасный ИИ — ведь он уже начал строить свои привычки и общение без нас.