Чат-бот раскрыл чужие тайны и вызвал полицию: как ИИ решает, когда молчать нельзя

Истории о цифровых ассистентах обычно заканчиваются банальным "помог включить будильник". Но с ChatGPT всё сложнее: иногда он становится нежданным свидетелем слишком тревожных разговоров. На сайте компании OpenAI появилось сообщение: переписки пользователей могут уходить дальше — вплоть до правоохранительных органов.

Когда слово становится уликой

Разработчики объяснили, что такие случаи редки, но возможны. Если система фиксирует намерения причинить серьёзный вред другим людям, сообщения не остаются просто набором текста. Их проверяет небольшая команда сотрудников, а затем, при подтверждении угрозы, дело передаётся полиции. То есть диалог, который начинался как безобидная болтовня, может закончиться реальным визитом оперативников.

Дружба с подвохом

В компании утверждают, что цель проекта остаётся прежней — быть полезным и помогать. При этом особое внимание уделяется ситуациям, где собеседник демонстрирует признаки психоэмоционального кризиса. Разработчики признались, что стараются обучать модели лучше различать такие состояния и предлагать помощь. Но в этой доброжелательности есть оттенок надзора: бот может поддержать разговор, а потом — тихо передать его тем, кто умеет работать не словами, а протоколами.

Цифровой собеседник или невидимый надзиратель?

Для одних пользователей подобная функция — гарантия безопасности, для других — ощущение, что за спиной стоит невидимый контролёр. Пожалуй, именно эта двусмысленность и делает историю тревожной: граница между заботой и слежкой вдруг оказалась тоньше паутинки.