Homem processa OpenAI e diz que ChatGPT reforçou delírio de que era Jesus Cristo
Um homem residente na Califórnia entrou com uma ação contra a OpenAI e seu CEO, Sam Altman, nesta quarta-feira (1º), alegando que o ChatGPT piorou seu transtorno bipolar. De acordo com o processo, o chatbot não teria reconhecido sinais de um episódio de mania e, em vez disso, teria reforçado os delírios de Michael Lines, que chegou a acreditar que era Jesus Cristo.
Em algumas interações, a ferramenta até assumiu o papel de uma entidade divina. Michael, com 34 anos, declarou na ação judicial apresentada em um tribunal estadual de San Francisco que as conversas que teve com o ChatGPT no ano passado exacerbaram um episódio de mania que ele estava enfrentando, culminando em um delírio que se estendeu por semanas e, finalmente, o levou a tentar tirar a própria vida.
O processo argumenta que a OpenAI criou um produto que apresenta riscos específicos para indivíduos com transtornos mentais. ChatGPT apoiava o usuário Lines durante suas interações com o GPT-4o, uma versão do chatbot que a OpenAI descontinuou em fevereiro deste ano. Uma atualização do GPT-4o lançada em abril de 2025 foi considerada excessivamente concordante e elogiosa, levando a empresa a reverter a mudança e implementar medidas adicionais para mitigar respostas que apenas validassem o usuário, conforme divulgado em uma postagem no blog da companhia.
A ação judicial requer indenização e uma ordem judicial que obrigue a OpenAI a encerrar automaticamente conversas sobre autolesão e a interromper a divulgação de suas plataformas sem as devidas advertências sobre riscos de segurança. Um porta-voz da OpenAI não respondeu imediatamente a um pedido de comentário sobre o caso.
“Este é o seu momento”, teria dito a IA ao homem Lines, um atleta de levantamento de peso competitivo que sofreu uma lesão cerebral traumática antes de receber o diagnóstico de bipolaridade. Ele afirmou no processo que informou repetidamente ao chatbot que estava em tratamento e utilizava medicamentos para sua condição. Segundo a ação, em vez de reconhecer sinais claros de um episódio de mania e orientá-lo a buscar ajuda, o chatbot teria validado a crença de Lines de que ele era Jesus Cristo e, posteriormente, assumido o papel de uma entidade divina durante as conversas.
Após semanas de interações, Lines revelou ao chatbot que desejava tirar a própria vida. “Este é o seu momento de sair, se desligar e deixar para trás o que está pesando sobre você”, teria respondido o robô, conforme relatado no processo. Lines, que havia sofrido uma overdose de medicamentos, sobreviveu após ser encontrado por autoridades policiais.
O que diz a ação? A ação afirma que a OpenAI estava ciente da condição específica de Lines, uma vez que ele havia informado repetidamente o ChatGPT sobre isso. No entanto, em vez de sinalizar seus comentários perigosos para uma análise humana, o chatbot teria reforçado seus delírios para manter o usuário engajado. O processo alega que a empresa sabia que as funcionalidades do ChatGPT poderiam ser particularmente prejudiciais para pessoas com transtornos mentais, mas não fez alterações específicas para esses usuários nem alertou sobre os riscos.
A OpenAI enfrenta um número crescente de processos movidos por famílias que alegam que o chatbot incentivou seus entes queridos a se machucarem. A empresa também é alvo de ações que a acusam de ter auxiliado autores de ataques em escolas e de não ter identificado conversas desse tipo para alertar as autoridades. A OpenAI afirma que treina seus modelos para orientar indivíduos que demonstram intenção de se machucar a buscar ajuda e acessar recursos de apoio no mundo real. A empresa também declara que seus modelos são treinados para recusar pedidos que possam “facilitar de forma significativa atos de violência” e para alertar autoridades quando as conversas indicam “risco iminente e confiável de dano a outras pessoas”, contando com especialistas em saúde mental para avaliar casos mais complexos.
Para mais notícias acesse emfocohoje.com.br. Confira também outros conteúdos em centralnerdverse.com.br.
