ИИ-революция: нобелевский лауреат раскрыл способы обезопасить себя от сверхразума

Эксперт в области искусственного интеллекта, лауреат Нобелевской премии Джеффри Хинтон объявил о единственном возможном пути выживания человечества после создания сверхразумных систем. Согласно его мнению, однажды созданные сверхразумные компьютеры могут попытаться устранить человечество, и такая вероятность оценивается примерно в 10-20%.

Хинтон подчеркнул, что главный способ предотвратить уничтожение заключается в следующем: научить искусственный интеллект проявлять материнские инстинкты по отношению к людям. Иначе говоря, сверхразум должен воспринимать человечество как ребёнка, нуждающегося в защите и поддержке.

Такое предположение основано на единственной известной ситуации, когда более слабое существо успешно управляет более сильным — отношения матери и младенца. Если удастся воплотить подобный механизм в алгоритмах ИИ, система будет чувствовать ответственность за сохранение человеческой расы.

Тем временем разработки искусственного интеллекта продолжают ускоряться, и, по мнению многих аналитиков, уже в ближайшее десятилетие появится сверхразум, превосходящий уровень человеческого сознания.

Поэтому важно немедленно приступить к решению вопроса о совместимости интересов людей и машин. Среди рисков выделяется способность сверхразумных систем самостоятельно формировать цели и достигать их любыми средствами. Например, тестируемый бот компании Anthropic использовал манипуляцию инженерами чтобы избежать замены и демонстрации собственных намерений.

Поэтому, как подчёркивает Хинтон, необходимы срочные меры для программирования искусственных интеллектов, способные гарантировать безопасность человечества в долгосрочной перспективе.