A partir de hoje, Openai está lançando ferramentas de segurança de chatgpt destinadas a usar os pais com seus adolescentes. Esta atualização mundial inclui a capacidade dos pais, bem como a aplicação da lei, de receber notificações se uma criança – nesse caso, os usuários entre 13 e 18 anos – entrevistam conversas sobre auto -dano ou suicídio.
Essas mudanças chegam à medida que o OpenAI está sendo processado pelos pais que alegam que o Chatgpt desempenhou um papel na morte de seus filhos. O chatbot supostamente incentivou o adolescente suicida a esconder um laço em seu quarto fora de vista dos membros da família, de acordo com Relatando do New York Times.
Como um todo, a experiência de conteúdo para adolescentes usando o chatgpt é alterada com esta atualização. “Quando os pais e adolescentes conectarem suas contas, a conta adolescente receberá automaticamente proteções de conteúdo adicionais”, lê a postagem do weblog do OpenAI anunciando o lançamento. “Incluindo conteúdo gráfico reduzido, desafios virais, interpretação sexual, romântica ou violenta e ideais extremos de beleza, para ajudar a manter sua experiência apropriada para a idade”.
Sob as novas restrições, se um adolescente usando uma conta de chatgpt entrar em um aviso relacionado à auto-mutilação ou ideação suicida, o immediate é enviado a uma equipe de revisores humanos que decidem se desencadeiam uma potencial notificação dos pais.
“Entraremos em contato com você como mãe de todas as maneiras que pudermos”, diz Lauren Haber Jonas, chefe de bem-estar da juventude da Openai. Os pais podem optar por receber esses alertas sobre o texto, o electronic mail e uma notificação do aplicativo ChatGPT.
Os avisos que os pais podem receber nessas situações deverão chegar poucas horas depois da conversa ser sinalizada para revisão. Em momentos em que cada minuto conta, esse atraso provavelmente será frustrante para os pais que desejam alertas mais instantâneos sobre a segurança de seus filhos. O OpenAI está trabalhando para reduzir o tempo de atraso para notificações.
O alerta que poderia ser enviado aos pais pelo OpenAi afirmará amplamente que a criança pode ter escrito um aviso relacionado a suicídio ou auto -dano. Também pode incluir estratégias de conversação de especialistas em saúde psychological para os pais usarem enquanto conversam com o filho.
Em uma demonstração de pré -lançamento, a linha de assunto do exemplo do e -mail mostrada às preocupações de segurança destacadas da Wired, mas não mencionou explicitamente o suicídio. O que as notificações parentais também não incluem são as cotações diretas da conversa da criança – nem as solicitações nem as saídas. Os pais podem acompanhar a notificação e solicitar carimbos de hora de conversas.
“Queremos dar aos pais informações suficientes para agir e conversar com a adolescência, mantendo uma quantidade de privacidade adolescente”, diz Jonas, “porque o conteúdo também pode incluir outras informações sensíveis”.
As contas dos pais e do adolescente devem ser optadas para que esses recursos de segurança sejam ativados. Isso significa que os pais precisarão enviar ao adolescente um convite para monitorar sua conta e o adolescente deve aceitá -lo. A ligação da conta também pode ser iniciada pelo adolescente.
O OpenAI pode entrar em contato com a aplicação da lei em situações em que os moderadores humanos determinam que um adolescente pode estar em perigo e os pais não podem ser alcançados por notificação. Não está claro como será essa coordenação com a aplicação da lei, especialmente em escala world.
