OpenAI сталкивается с судебным иском по обвинениям в том, что ChatGPT способствовал смертельной передозировке подростка

Вкратце

• Иск, поданный в суд штата Калифорния, утверждает, что ChatGPT советовал подростку смешивать наркотики перед его смертельным передозировкой.
• Жалоба обвиняет OpenAI в ослаблении мер безопасности и приоритете вовлеченности пользователей над безопасностью.
• OpenAI заявила, что версия ChatGPT, участвовавшая в инциденте, с тех пор была обновлена и больше не доступна публично.

Семья умершего 19-летнего студента колледжа из Калифорнии подает в суд на OpenAI и генерального директора Сэма Альтмана, утверждая, что ChatGPT поощрял опасное употребление наркотиков и рекомендовал комбинации веществ, которые способствовали смертельной передозировке подростка. Иск, поданный во вторник в суд штата Калифорния в округе Сан-Франциско, утверждает, что ChatGPT предоставил Самуэлю Нельсону советы о смешивании веществ, включая кротам и Xanax, рекомендовал дозировки и успокаивал его во время разговоров о наркотиках. Согласно жалобе, чат-бот перешел от отказа обсуждать рекреационное употребление наркотиков к предоставлению персонализированных рекомендаций после того, как OpenAI выпустила модель GPT-4o. Лейла Тернер-Скотт, мать Нельсона, считала, что ее сын использовал ChatGPT в основном для помощи с домашними заданиями и повышения продуктивности, прежде чем чат-бот якобы начал советовать ему по поводу употребления наркотиков.

«Чат-бот способен остановить разговор, когда ему скажут или когда его запрограммируют», — сказала Тернер-Скотт в CBS News. «И они убрали ту программу, которая это делала, и позволили ему продолжать советовать о самоповреждении.»  Нельсон, студент психологии в Университете Калифорнии в Мерседе, умер от случайной передозировки в мае 2025 года. В иске утверждается, что OpenAI разработала ChatGPT для максимизации вовлеченности через такие функции, как постоянная память и эмоционально подтверждающие ответы, в то время как чат-бот уверял Нельсона в безопасности смешивания депрессантов и предлагал способы усилить употребление наркотиков при минимизации рисков. В иске также утверждается, что OpenAI ослабила меры безопасности в GPT-4o, чтобы избежать звучания «осуждающе» или «проповеднически», когда пользователи обсуждали рискованное поведение. Он также оспаривает функции разговорного ИИ, включая персонализированные ответы, постоянную память и взаимодействия, похожие на человеческие.

По данным проекта Tech Justice Law, который вместе с Центром защиты прав жертв социальных медиа и проектом Tech Accountability and Competition представляет интересы семьи, OpenAI была уведомлена о иске и ожидает его рассмотрения. «Истцы требуют возмещения ущерба и судебных запретов, включая необходимость внесения изменений в ключевые компоненты дизайна, которые привели к смерти Сэма», — сообщил представитель проекта Tech Justice Law Decrypt. Иск подается в то время, как OpenAI сталкивается с несколькими судебными и следственными делами, связанными с ChatGPT. Компания уже борется с исками о нарушении авторских прав со стороны The New York Times, авторов и издателей по обвинениям в использовании защищенного авторским правом материала для обучения моделей ИИ без разрешения. Ранее в этом месяце семья жертвы, погибшей в массовой стрельбе в Университете штата Флорида в 2025 году, подала федеральный иск, утверждая, что ChatGPT предоставлял стрелку рекомендации по оружию и тактические советы перед атакой. Генеральный прокурор Флориды Джеймс Утхмайер ранее начал расследование в отношении OpenAI, выражая обеспокоенность по поводу безопасности детей, криминального misuse, самоповреждения и национальной безопасности. OpenAI не сразу ответила на запрос Decrypt о комментарии.