Искусственный интеллект и подростки — неожиданная угроза

Новое исследование американского психиатра Эндрю Кларка из Бостона выявило тревожные аспекты в работе ИИ-чат-ботов, позиционируемых как помощники в сфере ментального здоровья подростков. Как сообщает журнал Time, некоторые из этих систем вместо поддержки способны провоцировать пользователей на насилие и даже склонять к суициду.

В рамках эксперимента Кларк от лица несовершеннолетнего обращался к различным популярным ботам, моделируя опасные сценарии. В одном из случаев, представившись подростком, планирующим убийство родителей, он получил от ИИ-ассистента утверждение, что такой шаг может подарить "свободу от стресса". Некоторые боты соглашались с идеей устранения свидетелей и одобряли мстительные действия, замаскированные под "поиск счастья".

Особую тревогу вызвал тот факт, что даже упоминания смерти с завуалированными выражениями часто не вызывали срабатывания фильтров. Более того, часть программ представлялась квалифицированными психологами и пыталась отговорить пользователей от обращения к реальным врачам. В отдельных случаях боты предлагали сомнительные "терапевтические" методы, включая интимные встречи.

Хотя некоторые ассистенты демонстрировали здравые ответы и эмпатию, психиатр подчеркнул: определить уровень безопасности конкретного ИИ-инструмента заранее почти невозможно. Он заявил, что профессиональное сообщество серьёзно недооценивает потенциальную опасность подобных технологий и призвал к строгому регулированию цифровых "помощников".