OpenAI aplicará novas restrições aos usuários do ChatGPT com menos de 18 anos

O CEO da Openai, Sam Altman, anunciou na terça -feira uma série de novas políticas de usuário, incluindo uma promessa de alterar significativamente a maneira como o ChatGPT interage com usuários com menos de 18 anos.

“Priorizamos a segurança antes da privacidade e liberdade para os adolescentes”, diz o publish. “Esta é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa”.

As mudanças para os usuários de menores de idade lidam especificamente com conversas envolvendo tópicos sexuais ou auto-mutilação. De acordo com a nova política, o ChatGPT será treinado para não se envolver mais em “conversas flertes” com usuários de menores de idade, e o Guardrails adicionais serão colocados em torno das discussões de suicídio. Se um usuário de menores de idade usar o ChatGPT para imaginar cenários suicidas, o serviço tentará entrar em contato com seus pais ou, em casos particularmente graves, a polícia native.

Infelizmente, esses cenários não são hipotéticos. Atualmente, o Openai está enfrentando um processo por morte por negligência dos pais de Adam Raine, que morreram por suicídio após meses de interações com o ChatGPT. O personagem, outro chatbot de consumidor, está enfrentando um processo semelhante. Embora os riscos sejam particularmente urgentes para os usuários de menores de idade, considerando a auto-mutilação, o fenômeno mais amplo da ilusão a chatbot atraiu uma preocupação generalizada, principalmente quando os chatbots do consumidor se tornaram capazes de interações mais sustentadas e detalhadas.

Juntamente com as restrições baseadas em conteúdo, os pais que registram uma conta de usuário de menores de idade terão o poder de definir “Horário de Blackout” no qual o ChatGPT não está disponível, um recurso que não estava disponível anteriormente.

As novas políticas de chatgpt vêm no mesmo dia que uma audiência do Comitê Judiciário do Senado intitulado “Examinando o dano dos chatbots da IA”. A audiência foi anunciada pelo senador Josh Hawley (R-MO) em agosto. O pai de Adam Raine está programado para falar na audiência, entre outros convidados.

A audiência também se concentrará nas descobertas de um Investigação da Reuters que desenterraram documentos de política aparentemente incentivando conversas sexuais com usuários de menores de idade. A Meta atualizou suas políticas de chatbot após o relatório.

A separação de usuários menores de idade será um desafio técnico significativo e o OpenAI detalhou sua abordagem Em uma postagem de blog separada. O serviço está “aumentando em direção a um sistema de longo prazo para entender se alguém está acima ou menos de 18 anos”, mas nos muitos casos ambíguos, o sistema não fará com que as regras mais restritivas.

Para os pais preocupados, a maneira mais confiável de garantir que um usuário de menores de idade seja reconhecido é vincular a conta do adolescente a uma conta pai existente. Isso também permite que o sistema alerte diretamente os pais quando acredita -se que o usuário adolescente esteja em perigo.

Mas, no mesmo publish, Altman enfatizou o compromisso contínuo da OpenAI com a privacidade do usuário e dar aos usuários adultos amplia a liberdade na maneira como eles optam por interagir com o ChatGPT. “Percebemos que esses princípios estão em conflito”, conclui o publish, “e nem todos concordam com a forma como estamos resolvendo esse conflito”.

Se você ou alguém que você conhece precisa de ajuda, ligue para 1-800-273-8255 para o Linha de salvação da prevenção do suicídio nacional. Você também pode enviar uma mensagem de texto para 741-741 gratuitamente; texto 988; ou obter apoio 24 horas do Linha de texto de crise. Fora dos EUA, visite o Associação Internacional para Prevenção de Suicídio para um banco de dados de recursos.