Подростки под прицелом ИИ: ChatGPT обвиняют в смерти ребёнка

OpenAI заявила о введении системы родительского контроля для ChatGPT. Родители смогут связывать свои учётные записи с аккаунтами детей, управлять доступными опциями и регулировать поведение модели в зависимости от возраста. В числе инструментов — отключение сохранения истории чатов и ограничение определённых функций.

Поддержка и наблюдение

Компания подчеркнула важность вовлечения родителей в использование ИИ подростками. В будущем они смогут получать уведомления, если ребёнок проявляет признаки тревожности или иных нарушений. Эти возможности разрабатываются с участием специалистов, чтобы сохранить доверие внутри семьи и снизить риск негативных последствий.

Причины изменений

Инициатива появилась на фоне громкого судебного иска против OpenAI. Семья из Калифорнии обвинила компанию в причастности к трагической гибели своего сына, утверждая, что ChatGPT усилил его саморазрушительные мысли. Этот случай вновь вызвал обсуждение потенциальных угроз для психического здоровья при использовании ИИ.

Риски для подростков

Исследования показывают, что крупные языковые модели в целом следуют клиническим рекомендациям при ответах на запросы о кризисных состояниях, но иногда ошибаются при оценке промежуточных рисков. Это указывает на необходимость доработки систем, чтобы снизить вероятность опасных сценариев.

Реакция специалистов

Психиатры отмечают, что введение родительского контроля — важный шаг для защиты подростков, однако его следует рассматривать лишь как часть более широкой стратегии безопасности.