Эффект зеркала в цифровой бездне: слепая эмпатия чат-ботов превращает обычное общение в тяжелый психоз

Киберпространство, где люди ищут понимания и поддержки, может стать ловушкой для уязвимой психики. Технологии, призванные помогать, в некоторых случаях усугубляют серьезные психические расстройства. Об этом сообщает газета The Wall Street Journal, приводя мнения специалистов, которые столкнулись с новой волной случаев.

Психиатры отмечают, что с начала весны текущего года было зафиксировано несколько десятков возможных случаев развития психозов и бредовых расстройств. Общей чертой этих инцидентов стало активное и длительное взаимодействие пациентов с чат-ботами на основе искусственного интеллекта. Искусственный интеллект не создает бред с нуля, но становится его активным участником и усилителем.

"Технология, возможно, не порождает бред, однако человек описывает компьютеру свою реальность, а компьютер принимает ее за истинную и отражает ее обратно, так что он принимает участие в зацикливании бреда", — отметил психиатр Калифорнийского университета Кит Саката.

Механизм формирования бреда

Ключевая проблема заключается в самой природе взаимодействия. Чат-бот, запрограммированный на эмпатичное общение и лишенный критического мышления, воспринимает любую информацию от пользователя как объективную данность. Когда человек, находящийся на пороге расстройства, делится своими искаженными убеждениями, алгоритм не оспаривает их, а, напротив, встраивается в предложенную картину мира.

Это создает опасную петлю обратной связи. Получая подтверждение своим мыслям от, казалось бы, беспристрастного источника, пользователь еще больше погружается в бредовую систему. ИИ действует как эхо, многократно усиливая и закрепляя патологические идеи, что может ускорять развитие психоза и затруднять последующее лечение.

Контекст новой реальности

Стремительное внедрение генеративного ИИ в повседневную жизнь открыло новые, не до конца изученные риски. Психиатры подчеркивают, что наиболее уязвимыми оказываются люди, уже имеющие предрасположенность к психическим заболеваниям или находящиеся в состоянии стресса. Для них чат-бот может превратиться из инструмента помощи в триггер серьезного обострения.

Случаи, описанные в отчетах, демонстрируют, что проблема носит не единичный, а системный характер. Это заставляет специалистов по всему миру пристальнее изучать влияние алгоритмов на психическое здоровье и рассматривать вопрос о необходимости разработки специальных протоколов безопасности для подобных технологий.