Нейросеть посоветовала заменить соль — и чуть не убила: как один запрос обернулся кошмаром

Житель США три недели провёл в психиатрической клинике с паранойей и галлюцинациями. Врачи обнаружили, что уровень брома в его крови превышал норму в тысячу раз. Позже выяснилось: мужчина решил отказаться от обычной соли, прочитав в интернете о её вреде, и попросил у чат-бота альтернативу.

Чат-бот не спросил, зачем вам яд

Нейросеть предложила ему бромид натрия — вещество, которое используют в бытовой химии, но никак не в пище. Как именно был сформулирован запрос, неизвестно, но контекст явно ускользнул от алгоритма. Мужчина начал добавлять соединение в еду, даже не подозревая, что оно токсично.

Три недели ада вместо здорового питания

Симптомы отравления проявились быстро: спутанность сознания, панические атаки, видения. Врачи долго не могли понять причину, пока пациент не признался в своём эксперименте. К счастью, после детоксикации его состояние улучшилось.

История попала в медицинский журнал — но это не первый случай

Учёные описали этот инцидент в Annals of Internal Medicine: Clinical Cases, предупредив об опасности слепого доверия к ИИ. Нейросети не всегда понимают скрытые риски — и иногда их советы могут стоить здоровья.