Openai, a empresa que desenvolveu chatgpt, anunciado Novos controles parentais na segunda -feira com o objetivo de ajudar a proteger os jovens que interagem com seu generativo Programa de Inteligência Synthetic.
Todos os usuários do ChatGPT terão acesso aos recursos de controle de segunda -feira, disse a empresa.
O anúncio ocorre como o OpenAI, que tecnicamente permite que os usuários até 13 anos se inscrevam, afirmam com a crescente pressão do público para priorizar a segurança do chatgpt para adolescentes. (Openai diz Em seu website, exige que usuários de 13 a 18 anos obtenham o consentimento dos pais antes de usar o ChatGPT.)
Em agosto, a empresa de tecnologia da Califórnia prometeu implementar mudanças em seu principal produto depois de enfrentar um processo por morte por negligência pelos pais de um garoto de 16 anos que alegou que o chatbot levou seu filho a tirar a própria vida.
Os novos controles da OpenAI permitirão que os pais vinculem suas próprias contas de bate-papo às contas de seus adolescentes “e personalizem configurações para uma experiência segura e apropriada para a idade”, disse Openai no anúncio de segunda-feira. Certos tipos de conteúdo são automaticamente restritos na conta vinculada de um adolescente, incluindo conteúdo gráfico, desafios virais, interpretação “sexual, romântica ou violenta” e “ideais extremos de beleza”, segundo a empresa.
Juntamente com a moderação do conteúdo, os pais podem optar por receber uma notificação do OpenAI, caso seu filho exiba sinais potenciais de se machucar enquanto interage com o ChatGPT.
“Se nossos sistemas detectarem danos em potencial, uma pequena equipe de pessoas especialmente treinadas revisa a situação”, afirmou a empresa. “Se houver sinais de angústia aguda, entraremos em contato com os pais por e -mail, mensagem de texto e empurrar alerta no telefone, a menos que tenham optado por fora”.
A empresa também disse que está “trabalhando no processo e nas circunstâncias corretas para alcançar a aplicação da lei ou outros serviços de emergência” em emergências em que um adolescente pode estar em perigo iminente e um pai não pode ser alcançado.
“Sabemos que alguns adolescentes se voltam para conversar durante momentos difíceis, então construímos um novo sistema de notificação para ajudar os pais a saber se algo pode estar seriamente errado”, disse Openai.
O OpenAI introduziu outras medidas recentemente com o objetivo de ajudar a proteger os usuários mais jovens do ChatGPT. A empresa disse no início deste mês que os usuários de chatbot identificados como menores de 18 anos serão automaticamente direcionados para uma versão governada por regras de conteúdo “apropriadas para a idade”.
“A maneira como o chatgpt responde a um garoto de 15 anos deve parecer diferente da maneira como responde a um adulto”, disse a empresa na época.
Observou na segunda -feira, no entanto, que, embora os guardrails ajudem, “eles não são infalíveis e podem ser ignorados se alguém estiver intencionalmente tentando contorná -los”.
As pessoas podem usar o ChatGPT sem criar uma conta, e os controles parentais e os limites automáticos de conteúdo funcionam apenas se os usuários forem assinados.
“Continuaremos a iterar e melhorar cuidadosamente com o tempo”, afirmou a empresa. “Recomendamos que os pais conversem com a adolescência sobre o uso saudável da IA e o que se parece com a família”.
A Federal Commerce Fee iniciou uma investigação sobre várias mídias sociais e empresas de inteligência synthetic, incluindo o Openai, sobre os possíveis danos a adolescentes e crianças que usam seus chatbots como companheiros.
