Chatgpt pode alertar a polícia sobre adolescentes suicidas

O chatgpt poderá alertar em breve a polícia quando os adolescentes discutirem o suicídio. O CEO e co-fundador da Openai, Sam Altman, revelou a mudança durante uma entrevista recente. O ChatGPT, o chatbot de inteligência synthetic amplamente utilizado que pode responder a perguntas e manter conversas, tornou -se uma ferramenta diária para milhões. Seus comentários marcam uma grande mudança na maneira como a empresa de IA pode lidar com crises de saúde psychological.

Inscreva -se para o meu relatório gratuito do Cyberguy
Obtenha minhas melhores dicas de tecnologia, alertas de segurança urgentes e ofertas exclusivas entregues diretamente à sua caixa de entrada. Além Cyberguy.com/e-newsletter

Por que o Openai está considerando alertas policiais

Altman disse: “É muito razoável dizermos em casos de jovens falando sobre suicídio, sério, onde não podemos entrar em contato com os pais, chamamos as autoridades”.

Até agora, a resposta do Chatgpt a pensamentos suicidas period sugerir linhas diretas. Essa nova política sinaliza uma mudança de sugestões passivas para a intervenção ativa.

Altman admitiu que a mudança tem um custo para a privacidade. Ele enfatizou que os dados do usuário são importantes, mas reconheceu que a prevenção da tragédia deve vir primeiro.

Os adolescentes podem acessar facilmente o ChatGPT em um dispositivo móvel. (Jaap Arriens/Nurphoto by way of Getty Photos)

Tragédias que provocaram ação

A mudança segue os processos vinculados a suicídios de adolescentes. O caso mais destacado envolve Adam Raine, de 16 anos, da Califórnia. Sua família alega que o chatgpt forneceu um “Playbook passo a passo” para suicídio, incluindo instruções para amarrar um laço e até fazer uma nota de adeus.

Após a morte de Raine em abril, seus pais processaram o Openai. Eles argumentaram que a empresa não impediu sua IA de guiar seu filho em direção a danos.

Outro processo acusou o caráter rival do chatbot. Um jovem de 14 anos teria tirado a própria vida depois de formar uma intensa conexão com um bot modelado em um personagem de TV. Juntos, esses casos destacam a rapidez com que os adolescentes podem formar laços prejudiciais à IA.

Adam Raine, um adolescente da Califórnia, tirou a vida em abril de 2025 em meio a reivindicações que chatgpt o treinou (Família Raine)

Quão generalizado é o problema?

Altman apontou números globais para justificar medidas mais fortes. Ele observou que cerca de 15.000 pessoas tiram suas próprias vidas a cada semana em todo o mundo. Com 10% do mundo usando o ChatGPT, ele estimou que cerca de 1.500 indivíduos suicidas podem interagir com o Chatbot Weekly.

A pesquisa backup de preocupações sobre a dependência de adolescentes na IA. Uma pesquisa de mídia de bom senso descobriu que 72% dos adolescentes dos EUA usam ferramentas de IA, com um em cada oito buscando apoio à saúde psychological deles.

O ex-executivo do Yahoo conversou com o ChatGPT antes de matar a mãe em Connecticut assassinato-suicídio: relatório

Plano de 120 dias do Openai

Em uma postagem no weblog, o OpenAI delineou as etapas para fortalecer as proteções. A empresa disse que vai:

• Expandir intervenções para pessoas em crise.
• Torne mais fácil atingir serviços de emergência.
• Permitir conexões para contatos confiáveis.
• Largue salvaguardas mais fortes para os adolescentes.

Para orientar esses esforços, o OpenAI criou um Conselho de Experências sobre bem-estar e IA. Este grupo inclui especialistas em desenvolvimento de jovens, saúde psychological e interação humano-computador. Ao lado deles, o OpenAI está trabalhando com uma rede international de médicos de mais de 250 médicos em 60 países.

Esses especialistas estão ajudando a projetar controles parentais e diretrizes de segurança. Seu papel é garantir que as respostas de IA estejam alinhadas com a mais recente pesquisa em saúde psychological.

Um adolescente usando chatgpt. (Frank Rumpenhorst/Image Alliance by way of Getty Photos)

Novas proteções para famílias

Dentro de semanas, os pais serão capazes de:

• Ligue a conta do ChatGPT com os adolescentes.
• Ajuste o comportamento do modelo para corresponder às regras apropriadas à idade.
• Desative recursos como memória e histórico de bate -papo.
• Obtenha alertas se o sistema detectar sofrimento agudo.

Esses alertas são projetados para notificar os pais mais cedo. Ainda assim, Altman admitiu que, quando os pais são inacessíveis, a polícia pode se tornar a opção de fallback.

O ChatGPT pode ser usado por adolescentes para concluir a lição de casa. (Kurt “Cyberguy” Knutsson)

Limites das salvaguardas da IA

O Openai admite que suas salvaguardas podem enfraquecer com o tempo. Enquanto bate-papos curtos geralmente redirecionam os usuários para linhas diretas de crise, longas conversas podem corroer as proteções internas. Esse A “degradação da segurança” já levou a casos em que os adolescentes receberam conselhos inseguros após o uso prolongado.

Os especialistas alertam que confiar na IA para a saúde psychological pode ser arriscada. O ChatGPT é treinado para parecer humano, mas não pode substituir a terapia profissional. A preocupação é que os adolescentes vulneráveis ​​possam não saber a diferença.

Adolescentes cada vez mais se voltando para a IA para a amizade, à medida que a crise da solidão nacional se aprofunda

Passos Os pais podem dar agora

Os pais não devem esperar a chegada de novos recursos. Aqui estão maneiras imediatas de manter os adolescentes seguros:

1) Inicie as conversas regulares

Faça perguntas abertas sobre escola, amizades e sentimentos. O diálogo honesto reduz an opportunity de os adolescentes se voltarão para a IA para obter respostas.

2) Defina os limites digitais

Usar Controles dos pais em dispositivos e aplicativos. Limite o acesso às ferramentas de IA tarde da noite, quando os adolescentes podem se sentir mais isolados.

3) Hyperlink contas quando disponível

Aproveite os novos recursos do Openai que conectam perfis de pais e adolescentes para uma supervisão mais detalhada

4) Incentive o apoio profissional

Reforce que os cuidados de saúde psychological estejam disponíveis através de médicos, conselheiros ou linhas diretas. AI nunca deve ser a única saída.

5) Mantenha os contatos de crise visíveis

Publique números para linhas diretas e linhas de texto onde os adolescentes podem vê -los. Por exemplo, nos EUA, ligue ou envie um texto para a linha de vida de suicídio e crise.

6) Preste atenção nas mudanças

Aviso muda de humor, sono ou comportamento. Mix esses sinais com padrões on -line para capturar riscos mais cedo.

Faça meu teste: Quão seguro é sua segurança on-line?

Acha que seus dispositivos e dados estão realmente protegidos? Faça este questionário rápido para ver onde estão seus hábitos digitais. Das senhas às configurações de Wi-Fi, você receberá um detalhamento personalizado do que está fazendo certo-e o que precisa de melhorias. Faça meu teste aqui: Cyberguy.com/quiz

As principais toca de Kurt

O plano do Openai de envolver a polícia mostra como a questão se tornou urgente. A IA tem o poder de se conectar, mas também carrega riscos quando os adolescentes o usam em momentos de desespero. Pais, especialistas e empresas devem trabalhar juntos para criar salvaguardas que salvam vidas sem sacrificar a confiança.

Você se sentiria confortável com as empresas de IA alertando a polícia se seu adolescente compartilhasse pensamentos suicidas on -line? Informe -nos escrevendo para nós em Cyberguy.com/contact

Inscreva -se para o meu relatório gratuito do Cyberguy
Obtenha minhas melhores dicas de tecnologia, alertas de segurança urgentes e ofertas exclusivas entregues diretamente à sua caixa de entrada. Além Cyberguy.com/e-newsletter

Clique aqui para baixar o aplicativo Fox Information

Copyright 2025 Cyberguy.com. Todos os direitos reservados.