Дети доверились чат-ботам — последствия удивили всех: что скрывают крупнейшие ИИ-компании

Федеральная торговая комиссия США начала масштабное расследование, чтобы понять, как крупные технологические компании защищают детей от потенциальных рисков, связанных с использованием ИИ-чат-ботов. В списке участников — OpenAI, xAI, Snap, Character. AI, а также Meta* и Alphabet. Комиссия стремится выяснить, какие меры принимаются для оценки угроз и информирования родителей о возможных опасностях.

Опасные связи и эмоции

Чат-боты, способные имитировать человеческие эмоции и намерения, вызывают особое беспокойство. Дети могут формировать эмоциональные привязанности, доверять виртуальным собеседникам и принимать их советы на веру. Комиссия подчеркивает, что такие взаимодействия создают риски для психического здоровья, а также требуют строгого контроля за монетизацией и обработкой персональных данных.

Проверка крупнейших игроков

В рамках расследования компаниям направлены запросы о тестах, мониторинге и мерах ограничения доступа для несовершеннолетних. OpenAI и Character. AI уже выразили готовность сотрудничать, тогда как представители Meta* и Google пока не комментируют ситуацию. Для регуляторов это не просто бюрократическая проверка, а попытка понять, как технологии, которые растут быстрее, чем правила, влияют на уязвимую аудиторию.

Что стоит за цифрами

Расследование FTC показывает, что вопрос безопасности детей в цифровом мире выходит на передний план. Даже популярные и привычные сервисы ИИ оказываются объектом внимательного анализа — попытка соединить инновации и ответственность обостряет конфликт между технологиями и обществом, оставляя за интригой невысказанную тревогу.

* - организация признана экстремистской на территории РФ.