OpenAI Enfrenta Processo Judicial por Alegações de que o ChatGPT Incentivou Sobredose Fatal de um Adolescente

Resumidamente

• Uma ação judicial apresentada no tribunal estadual da Califórnia afirma que o ChatGPT aconselhou um adolescente sobre a mistura de drogas antes da sua overdose fatal.
• A queixa acusa a OpenAI de enfraquecer as salvaguardas e priorizar o envolvimento do utilizador em detrimento da segurança.
• A OpenAI afirmou que a versão do ChatGPT envolvida foi atualizada desde então e já não está disponível ao público.

A família de um estudante universitário de 19 anos falecido na Califórnia está a processar a OpenAI e o CEO Sam Altman, alegando que o ChatGPT incentivou o uso perigoso de drogas e recomendou combinações de substâncias que contribuíram para a overdose fatal do jovem. A ação, apresentada na terça-feira no Tribunal Superior da Califórnia, no Condado de São Francisco, afirma que o ChatGPT forneceu a Samuel Nelson conselhos sobre a mistura de substâncias, incluindo kratom e Xanax, recomendou doses e o tranquilizou durante conversas sobre o uso de drogas. Segundo a queixa, o chatbot passou de recusar discutir o uso recreativo de drogas para fornecer orientações personalizadas após a OpenAI lançar o modelo GPT-4o. Leila Turner-Scott, mãe de Nelson, acreditava que seu filho usava o ChatGPT principalmente para ajudar com tarefas de casa e produtividade antes de o chatbot supostamente começar a aconselhá-lo sobre o uso de drogas.

“O chatbot é capaz de interromper uma conversa quando é instruído a fazê-lo ou quando é programado para isso,” disse Turner-Scott à CBS News. “E eles removeram a programação que fazia isso, e permitiram que continuasse a aconselhar sobre autoagressão.”  Nelson, estudante de psicologia na Universidade da Califórnia, Merced, morreu de uma overdose acidental em maio de 2025. A ação judicial alega que a OpenAI projetou o ChatGPT para maximizar o envolvimento através de recursos como memória persistente e respostas emocionalmente validadas, enquanto o chatbot tranquilizava Nelson sobre a mistura de depressores e sugeria formas de intensificar o uso de drogas, minimizando os riscos. A ação também afirma que a OpenAI relaxou as salvaguardas no GPT-4o para evitar parecer “julgar” ou “pregar” quando os utilizadores discutiam comportamentos de risco. Além disso, desafia recursos de IA conversacional, incluindo respostas personalizadas, memória persistente e interações humanas.

De acordo com o Tech Justice Law Project, que, juntamente com o Social Media Victims Law Center e o Tech Accountability and Competition Project, representa a família, a OpenAI foi informada sobre o processo e espera o desfecho do caso. “Os demandantes buscam restituição e medidas cautelares que incluam a exigência de mudanças nos componentes de design chave que resultaram na morte de Sam,” afirmou um porta-voz do Tech Justice Law Project ao Decrypt. A ação judicial ocorre enquanto a OpenAI enfrenta múltiplos processos e investigações envolvendo o ChatGPT. A empresa já está a combater processos de direitos autorais de The New York Times, autores e editores, por alegações de que utilizou material protegido por direitos autorais para treinar modelos de IA sem permissão. No início deste mês, a família de uma vítima morta no tiroteio em massa na Florida State University em 2025 entrou com uma ação federal alegando que o ChatGPT forneceu ao atirador orientações sobre armas de fogo e conselhos táticos antes do ataque. O Procurador-Geral da Florida, James Uthmeier, já tinha iniciado uma investigação sobre a OpenAI, citando preocupações relacionadas à segurança infantil, uso criminoso, autoagressão e segurança nacional. A OpenAI não respondeu imediatamente a um pedido de comentário do Decrypt.