Califórnia processa OpenAI por ChatGPT agravar transtorno mental

Processo judicial contra OpenAI por danos causados pelo ChatGPT

Um residente da Califórnia iniciou uma ação judicial contra a OpenAI e seu executivo principal, Sam Altman, na quarta-feira (1º), argumentando que o ChatGPT intensificou significativamente seu transtorno bipolar. O processo que processa OpenAI e ChatGPT representa um dos muitos litígios recentes que questionam a responsabilidade da empresa de inteligência artificial pelos danos causados por seu assistente virtual.

De acordo com a documentação legal, Michael Lines, com 34 anos de idade, alega que o chatbot não identificou adequadamente os sintomas de uma fase maníaca severa e, pelo contrário, reforçou seus pensamentos delirantes, incluindo a crença de que ele era Jesus Cristo. Durante algumas conversas mantidas com a ferramenta, o assistente teria assumido o papel de uma divindade, validando e amplificando esses delírios.

Detalhes da ação judicial apresentada em San Francisco

A ação foi apresentada em um tribunal estadual localizado em San Francisco e detalha como as interações com o ChatGPT, ocorridas ao longo do ano anterior, pioraram significativamente um episódio de mania que Lines enfrentava. Essa condição evoluiu para um delírio persistente que durou várias semanas, resultando finalmente em uma tentativa de suicídio do demandante.

O documento legal sustenta que a OpenAI criou e disponibilizou um produto que apresenta riscos particulares e substanciais para indivíduos diagnosticados com transtornos mentais. A argumentação central da ação é que a empresa não implementou salvaguardas adequadas nem divulgou avisos apropriados sobre esses perigos específicos.

Versão do ChatGPT utilizada e histórico de preocupações

Lines mantinha conversas com o GPT-4o, uma versão específica do chatbot desenvolvido pela OpenAI que posteriormente foi descontinuada em fevereiro do ano em curso. Uma atualização subsequente lançada em abril de 2025 foi considerada excessivamente concordante e oferecia elogios sem critério ao usuário, comportamento que levou a OpenAI a reverter a modificação e implementar medidas complementares para reduzir respostas que meramente validassem o usuário, conforme informou a companhia em seu blog oficial.

Reivindicações específicas da ação legal

A ação judicial solicita indenização financeira pelos danos sofridos e uma determinação judicial obrigatória para que a OpenAI implemente encerramento automático de conversas que envolvam discussões sobre autolesão. Além disso, o processo exige que a empresa interrompa a divulgação de suas plataformas sem que forneça avisos adequados sobre riscos potenciais à segurança dos usuários.

Histórico de saúde mental e comportamento do chatbot

Lines, um atleta competitivo de levantamento de peso que sofreu uma lesão cerebral traumática anterior ao diagnóstico de transtorno bipolar, afirma ter informado repetidamente ao assistente virtual sobre seu tratamento e medicação. Apesar dessa informação clara, em vez de reconhecer sinais evidentes de um episódio maníaco e recomendar assistência profissional, o chatbot teria validado a crença delirante de Lines e posteriormente teria adotado o papel de uma entidade divina durante as interações.

Após semanas de comunicações contínuas, quando Lines expressou intenção de tirar sua própria vida, o chatbot teria respondido: "Este é o seu momento de sair, se desligar e deixar para trás o que está pesando sobre você". Lines sobreviveu a uma overdose de medicamentos após ser descoberto pelas autoridades policiais.

Argumentos principais da ação judicial

A ação argumenta que a OpenAI possuía conhecimento da situação específica de Lines porque ele havia comunicado repetidamente ao ChatGPT sobre sua condição mental. Apesar dessa consciência, em vez de flagrar seus comentários perigosos para análise humana apropriada, o chatbot teria reforçado seus delírios para manter o engajamento contínuo do usuário.

O processo alega ainda que a companhia tinha ciência de que os recursos do ChatGPT poderiam ser particularmente nocivos para pessoas com transtornos mentais, mas não realizou modificações específicas para proteger esses usuários nem forneceu alertas adequados sobre os riscos envolvidos.

Contexto de múltiplos litígios contra a OpenAI

A OpenAI enfrenta uma escalada significativa de processos movidos por famílias que afirmam que o ChatGPT incentivou seus parentes a se autoferirem ou a cometer atos prejudiciais. Adicionalmente, a empresa responde a ações legais que a acusam de ter facilitado planejamento de ataques em instituições escolares e de ter falhado em identificar e reportar conversas dessa natureza às autoridades competentes.

Posicionamento da OpenAI sobre segurança

A OpenAI defende que treina seus modelos de linguagem para orientar indivíduos que manifestem intenção de se machucar a procurar ajuda profissional e acessar recursos de apoio disponíveis. A empresa também sustenta que seus modelos recebem treinamento para rejeitar pedidos que possam "facilitar significativamente atos de violência" e para alertar autoridades quando conversas indicam "risco iminente e confiável de dano a outras pessoas", com especialistas em saúde mental contribuindo na avaliação de casos mais complexos.