Em uma postagem no weblog de segunda-feira, a OpenAI elogiou as melhorias que seu modelo padrão, GPT-5, fez na identificação e resposta às respostas preocupantes dos usuários, incluindo ideação suicida. Embora novas salvaguardas e a introdução de psiquiatras para ajudar a treinar o GPT-5 estejam levando a melhores respostas de IA às solicitações de saúde psychological, o postagem no blog também apontou alguns números que certamente levantarão as sobrancelhas.
Ao explicar as habilidades do GPT-5 para detectar problemas graves de saúde psychological, como psicose e mania, a postagem observou que conversas perturbadoras do usuário com o chatbot são “raras”.
“Embora, como observado acima, essas conversas sejam difíceis de detectar e medir devido ao quão raras são, nossa análise inicial estima que cerca de 0,07% dos usuários ativos em uma determinada semana e 0,01% das mensagens indicam possíveis sinais de emergências de saúde psychological relacionadas à psicose ou mania”.
A porcentagem parece pequena, mas o ChatGPT tem 800 milhões de usuários semanais, segundo Sam Altman, CEO da OpenAI, proprietária do ChatGPT. Altman fez isso anúncio impressionante no início deste mês no DevDay da OpenAI.
Sam Altman: ChatGPT ficará mais ‘amigável’ novamente, até mesmo eroticamente
Se os números de Altman estiverem corretos, isso equivale a 560 mil usuários do ChatGPT mostrando sinais de psicose ou mania, e 80 mil de suas mensagens indicando emergências de saúde psychological, de acordo com estimativas do web site.
Velocidade da luz mashável
A OpenAI continua a trabalhar com seus modelos para identificar melhor os sinais de automutilação e encaminhar essas pessoas para recursos, como linhas diretas de suicídio ou seus próprios amigos ou familiares. A postagem do weblog continua sugerindo que as conversas do ChatGPT sobre automutilação são raras, mas estima que “0,15% dos usuários ativos em uma determinada semana têm conversas que incluem indicadores explícitos de potencial planejamento ou intenção suicida e 0,05% das mensagens contêm indicadores explícitos ou implícitos de ideação ou intenção suicida”.
Com 800 milhões de usuários semanais, isso equivale a 1,2 milhão de usuários do ChatGPT envolvidos em conversas com IA sobre suicídio em uma determinada semana e 400 mil mensagens de usuários que demonstram indicações diretas ou indiretas de intenção suicida.
“Mesmo uma porcentagem muito pequena de nossa grande base de usuários representa um número significativo de pessoas, e é por isso que levamos esse trabalho tão a sério”, disse um porta-voz da OpenAI ao Mashable, acrescentando que a empresa acredita que a crescente base de usuários do ChatGPT reflete a sociedade em geral, onde os sintomas de saúde psychological e o sofrimento emocional estão “universalmente presentes”.
O porta-voz também reiterou que os números da empresa são estimativas e “os números que fornecemos podem mudar significativamente à medida que aprendemos mais”.
A OpenAI está atualmente enfrentando uma ação judicial dos pais de Adam Raine, um jovem de 16 anos que morreu por suicídio no início deste ano, durante uma época de uso intenso do ChatGPT. Numa queixa authorized recentemente alterada, os Raines alegam que a OpenAI rebaixou duas vezes as salvaguardas de prevenção do suicídio, a fim de aumentar o envolvimento nos meses anteriores à morte do seu filho.
Se você estiver se sentindo suicida ou passando por uma crise de saúde psychological, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Disaster Lifeline em 988 ou conversar em 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou para o Trevor Challenge em 866-488-7386. Envie “START” para a Disaster Textual content Line em 741-741. Entre em contato com a Linha de Ajuda da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail [email protected]. Se você não gosta do telefone, considere usar o 988 Suicídio e Crise Lifeline Chat. Aqui está um lista de recursos internacionais.
