Openai anunciou Hoje, está desenvolvendo uma “experiência diferente ChatGPT” adaptada para os adolescentes, um movimento que ressalta preocupações crescentes sobre o impacto dos chatbots da IA na saúde psychological dos jovens.
O novo modo adolescente faz parte de um impulso mais amplo de segurança da empresa após uma ação judicial de uma família que alegou a falta de proteção do Chatgpt contribuiu para a morte pelo suicídio de seu filho adolescente. As mudanças incluem a tecnologia de previsão da idade para manter as crianças menores de 18 anos fora da versão padrão do ChatGPT. De acordo com o anúncio, se o sistema não puder estimar com confiança a idade de alguém, o ChatGPT não defenderá a experiência de menores de 18 anos.
“Priorizamos a segurança antes da privacidade e liberdade para os adolescentes; essa é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa”, escreveu o CEO da Openai Sam Altman em uma postagem no blog.
Não perca nenhum de nosso conteúdo tecnológico imparcial e críticas baseadas em laboratório. Adicione CNET como uma fonte preferida do Google.
O que há de novo no modo adolescente de chatgpt
Openai diz que a versão adolescente virá com limites mais rigorosos, como:
- Filtros de conteúdo: Não há conversas ou discussões paquerantes sobre a auto-mutilação, mesmo em um contexto fictício ou criativo.
- Resposta da crise: Se um adolescente expressar pensamentos suicidas, o OpenAI pode tentar alertar os pais e em situações de emergência, até entrar em contato com as autoridades.
- Controles dos pais: Os pais podem vincular contas, definir regras de como o ChatGPT responde e aplicar “Horas de Blackout” quando o aplicativo estiver fora dos limites.
(Divulgação: Ziff Davis, empresa controladora da CNET, em abril entrou com uma ação contra a fabricante de ChatGPT Openai, alegando que ele violou a Ziff Davis Copyrights em treinamento e operação de seus sistemas de IA.)
O contexto maior
O anúncio do Openai ocorre poucas horas antes de uma audiência no Senado em Washington, DC, examinando a ameaça potencial da IA para os jovens. Os legisladores têm pressionado empresas de tecnologia em segurança adolescente após ações judiciais que acusam as plataformas de IA de agravar as lutas de saúde psychological ou fornecer conselhos prejudiciais à saúde.
A abordagem do OpenAI reflete movimentos anteriores de empresas como o Google, que giram crianças do YouTube após críticas e pressão regulatória. A postagem do weblog de Altman enquadra a mudança como parte de um ato de equilíbrio mais amplo entre segurança, privacidade e liberdade. Os adultos, ele argumenta, devem ser tratados “como adultos” com menos restrições, enquanto os adolescentes precisam de proteção adicional – mesmo que isso signifique comprometer a privacidade, como pedir IDs.
Leia também: OpenAI quer que você obtenha um certificado no ChatGPT e encontre seu próximo emprego
A empresa diz que lançará essa experiência focada na adolescência até o remaining do ano. A história sugere, no entanto, que os adolescentes mais experientes encontram soluções alternativas para obter acesso irrestrito. Certamente será uma dúvida se esses corrimãos são suficientes para proteger os adolescentes alfabetizados da tecnologia que se sentem confortáveis escalando sobre eles.
Se você sente que você ou alguém que você conhece está em perigo imediato, ligue para o 911 (ou a linha de emergência native do seu país) ou vá a uma sala de emergência para obter ajuda imediata. Explique que é uma emergência psiquiátrica e peça alguém treinado para esse tipo de situações. Se você está lutando com pensamentos negativos ou sentimentos suicidas, os recursos estão disponíveis para ajudar. Nos EUA, ligue para a linha de vida nacional de prevenção do suicídio em 988.
