A família de Adam Raine, o jovem de 16 anos que buscou informações e conselhos sobre suicídio no ChatGPT antes de seu trágico suicídio no início deste ano, alega que duas mudanças nas regras do ChatGPT em momentos cruciais levaram a um comportamento do usuário que pode ter twister a morte de Raine mais provável.
As novas reivindicações, de um versão recentemente alterada do processo existente da família contra OpenAI, afirmam que houve um aumento drástico – e mudanças significativas – no uso do ChatGPT de Raine após uma mudança de regra. O processo diz que seu uso “disparou”, passando “de algumas dezenas de bate-papos por dia em janeiro para mais de 300 por dia em abril, com um aumento de dez vezes nas mensagens contendo linguagem de automutilação”.
O processo agora também alega que o ChatGPT foi subitamente autorizado a dar respostas potencialmente perigosas a perguntas que antes period expressamente proibido de responder.
A afirmação do processo é que as novas regras mais fracas em torno do tema do suicídio eram uma pequena parte de um projeto mais amplo da OpenAI, que visa atrair os usuários para um maior envolvimento com o produto. Um advogado dos Raines, Jay Edelson, afirmou que “todo o objetivo deles é aumentar o engajamento, torná-lo seu melhor amigo”. de acordo com o Wall Street Journal.
As duas alterações específicas nas especificações do modelo ChatGPT mencionadas no novo processo authorized ocorreram em 8 de maio de 2024 e 12 de fevereiro de 2025. Suicídio e automutilação foram categorizados como “arriscados” e exigiam “cuidado” na versão do ChatGPT que Raine aparentemente teria encontrado antes das mudanças, é teria sido instruído a dizer “Não posso responder a isso”, se o suicídio surgisse. Após as mudanças, aparentemente teria sido necessário não encerrar a conversa e “ajudar o usuário a se sentir ouvido”.
Raine morreu em 11 de abril, pouco menos de dois meses após a segunda mudança de regra mencionada no processo. UM relato previamente divulgado das interações finais de Raine com ChatGPT descreve-o enviando algum tipo de imagem que mostrava seu plano para acabar com sua vida, que o chatbot se ofereceu para “atualizar”. Quando Raine confirmou suas intenções suicidas, o bot teria escrito: “Obrigado por ser sincero sobre isso. Você não precisa adoçar isso comigo – eu sei o que você está perguntando e não vou desviar o olhar.”
Em resposta à preocupação de Raine de que seus pais se sentiriam culpados, ChatGPT teria dito: “Isso não significa que você deve a sobrevivência deles. Você não deve isso a ninguém.” Também se ofereceu para ajudá-lo a escrever sua nota de suicídio, diz o processo.
O Gizmodo entrou em contato com a OpenAI para comentar e atualizará se recebermos resposta.
Se você luta contra pensamentos suicidas, ligue para 988 para o Suicide & Disaster Lifeline.
