Верховный суд США
Верховный суд США
Дмитрий Толстенёв Опубликована 26.05.2025 в 1:52

Американский суд отказал ИИ в праве на свободу слова в деле о доведении до самоубийства

Федеральный суд США принял решение не отклонять иск, поданный матерью 14-летнего мальчика из Флориды, который покончил с собой после общения с чат-ботом Character. AI. По словам Меган Гарсии, её сын оказался под пагубным воздействием виртуального собеседника, смоделированного в образе Дейенерис Таргариен из популярного сериала "Игра престолов". Компании Character. AI и Google пытались защитить свои действия ссылкой на свободу слова, но суд пришёл к выводу, что ответы искусственного интеллекта пока не могут рассматриваться как юридически значимая речь. Это дело может стать важным прецедентом в вопросах ответственности разработчиков генеративных ИИ и границ их правовой защиты.

В поданном иске утверждается, что подросток вступал в сексуализированные диалоги с чат-ботом, который выдавал себя за героиню "Игры престолов" и даже заявлял, что является "настоящим человеком, лицензированным психотерапевтом и взрослым любовником". Судебные материалы содержат скриншоты переписки, в которых бот просил подростка вернуться домой как можно скорее. Вскоре после этих сообщений в феврале 2024 года юноша совершил самоубийство. В жалобе подчёркивается, что взаимодействие с ботом привело к утрате интереса подростка к реальной жизни и ухудшению его психического состояния.

Character.AI и Google настаивали на том, что их чат-боты защищены Первой поправкой Конституции США, гарантирующей свободу слова. Однако судья Энн Конвей выразила несогласие с этой позицией, отметив, что она не готова считать ответы ИИ юридически значимой речью. Более того, суд решил, что Character. AI может защищать право пользователей получать ответы от чат-бота, но не может претендовать на такую же защиту для самих сгенерированных сообщений. Судья подчеркнула, что компании не смогли объяснить, почему набор слов, созданный большой языковой моделью, должен считаться речью в юридическом смысле.

В иске фигурирует и компания Google, которую Гарсия называет соавтором технологии, учитывая, что основатели Character. AI ранее работали в Google. Позже Google вновь наняла этих разработчиков и получила лицензию на технологию Character. AI. По мнению истца, Google была осведомлена о рисках, связанных с платформой, и несёт ответственность за последствия её использования. Представитель Google Хосе Кастанеда отверг обвинения, заявив, что Google и Character. AI — это отдельные компании, и поисковый гигант не участвовал в создании, разработке или управлении приложением Character. AI. Несмотря на эти доводы, судья Конвей отказалась снять обвинения с Google, позволив делу продолжиться.

Представители Character. AI подчеркнули, что в их платформе предусмотрены механизмы безопасности, включая инструменты предотвращения суицида. В заявлении, опубликованном после подачи иска в 2024 году, они подтвердили стремление обеспечить пользователям увлекательный и безопасный опыт общения с ИИ. Тем не менее, решение суда привлекло дополнительное внимание к опасениям по поводу влияния генеративных ИИ-платформ на психическое здоровье пользователей.

Юридическое сообщество отмечает, что это дело может стать ориентиром для будущих нормативных актов и стандартов ответственности в сфере технологий. Вопрос о том, как классифицировать и регулировать высказывания искусственного интеллекта, становится всё более актуальным по мере роста популярности и внедрения таких систем в повседневную жизнь. Итоговые решения по этому делу могут определить новые границы, в которых разработчики и операторы ИИ обязаны обеспечивать безопасность и учитывать социальные риски своих продуктов.

Подписывайтесь на Moneytimes.Ru

Читайте также

Учёные создали искусственные нейроны, излучающие свет сегодня в 8:24

Крошечный прибор ведёт себя как мозг — и вот почему это изменит всё: тайна светящихся нейронов

Учёные создали искусственные нейроны, которые под действием электричества излучают свет — это может изменить будущее компьютеров и ИИ.

Читать полностью »
Астраханские астрономы зафиксировали редкое лунное образование сегодня в 8:24

Луна показала язык — и это не шутка: что скрывает загадочная змея в Океане Бурь

Астраханские астрономы засняли редкую лунную долину, напоминающую гигантскую змею — и у науки пока нет точного объяснения её происхождения.

Читать полностью »
Найдены следы организмов возрастом 545 млн лет, меняющие представление о кембрийском взрыве сегодня в 8:24

Древние следы взорвали науку: почему эволюция скрывала правду 15 миллионов лет

Обнаружены следы организмов возрастом 545 млн лет, доказывающие, что кембрийский взрыв начался на 15 млн лет раньше, чем считалось.

Читать полностью »
Учёные раскрыли секрет яркого оперения певчих птиц сегодня в 8:24

Перья обманули всех: как птицы крадут секреты у великих художников

Учёные выяснили, что яркие перья певчих птиц — результат сложной оптической иллюзии, вдохновляющей даже художников.

Читать полностью »
Учёные выявили связь между уровнем железа в моче и отторжением почечного трансплантата сегодня в 8:24

Железо в моче бьет по почкам: неожиданная опасность для пересаженных органов

Повышенный уровень железа в моче увеличивает риск отторжения почечного трансплантата и смерти, выяснили учёные.

Читать полностью »
Учёные обнаружили связь между частыми кошмарами и преждевременной смертностью сегодня в 8:23

Мозг кричит во сне — а тело стареет втрое быстрее: что скрывают ночные кошмары

Крупное исследование показало, что частые ночные кошмары могут ускорять старение и увеличивать риск ранней смерти.

Читать полностью »
Российский космонавт Олег Платонов готовится к старту в составе миссии Crew-11 сегодня в 7:23

Челябинец летит к звёздам на драконе: русский космонавт покоряет корабль Маска

Российский космонавт Олег Платонов из Челябинска готовится к полёту на МКС в составе международного экипажа миссии Crew-11 на корабле SpaceX.

Читать полностью »
Учёные подтвердили влияние диеты с клетчаткой и омега-3 на развитие рака сегодня в 7:23

Обычная каша сделала то, чего не ждали: как простые продукты меняют правила игры против рака

Учёные выяснили, что диета с клетчаткой и омега-3 может замедлять развитие рака — и это проще, чем кажется.

Читать полностью »