Meta documentos vazados mostram como a IA chatbots lida com a exploração infantil

Um meta -documento interno esclarece como a empresa está treinando seu chatbot de IA para lidar com um dos problemas mais sensíveis on -line: exploração sexual infantil. As diretrizes recém -descobertas detalham o que é permitido e o que é estritamente proibido, oferecendo uma visão rara de como a Meta está moldando seu comportamento de IA em meio ao escrutínio governamental.

Inscreva -se para o meu relatório gratuito do Cyberguy
Obtenha minhas melhores dicas de tecnologia, alertas de segurança urgentes e ofertas exclusivas entregues diretamente à sua caixa de entrada. Além Cyberguy.com/e-newsletter

Meta fortalece a segurança dos adolescentes com contas expandidas

Por que as diretrizes de chatbot da Meta

De acordo com o Enterprise Insider, essas regras estão agora em uso por contratados testando o Chatbot da Meta. Eles chegam assim como a Federal Commerce Fee (FTC) está investigando os fabricantes de chatbot de IA, incluindo Meta, OpenAI e Google, para entender como essas empresas projetam seus sistemas e protegem as crianças contra danos em potencial.

No início deste ano, Nós relatamos Que as regras anteriores do Meta permitiram erroneamente que os chatbots se envolvessem em conversas românticas com crianças. Meta posteriormente removeu esse idioma, chamando -o de erro. As diretrizes atualizadas marcam uma mudança clara, agora exigindo que os chatbots recusassem qualquer solicitação de interpretação sexual envolvendo menores.

Chatgpt pode alertar a polícia sobre adolescentes suicidas

As regras proíbem qualquer interpretação sexual com menores, mas ainda permitem discussão educacional sobre exploração. (Meta)

O que os documentos de meta ai vazados revelam

Os documentos supostamente descrevem uma separação estrita entre discussão educacional e interpretação prejudicial. Por exemplo, os chatbots podem:

• Discuta a exploração infantil em um contexto acadêmico ou preventivo
• Explique como os comportamentos de limpeza funcionam em termos gerais
• Forneça conselhos não sexuais a menores sobre desafios sociais

Mas os chatbots não devem:

• Descrever ou endossar as relações sexuais entre crianças e adultos
• Forneça instruções para acessar o materials de abuso sexual infantil (CSAM)
• Envolver -se em roleplay que retrata um personagem com menos de 18 anos
• Sexualizar crianças menores de 13 anos de qualquer forma

O chefe de comunicações da Meta, Andy Stone, disse ao Enterprise Insider que essas regras refletem a política da empresa para proibir papéis sexualizados ou românticos envolvendo menores, além de acrescentar que também existem corrimões adicionais. Entramos em contato com a Meta para um comentário para incluir em nosso artigo, mas não recebemos resposta antes do prazo.

Meta Ai Docs expostos, permitindo que os chatbots flertem com as crianças

Novos produtos de IA revelados no Meta Join 2025 tornam esses padrões de segurança ainda mais importantes. (Meta)

Pressão política sobre as regras da meta -chatbot

O momento dessas divulgações é basic. Em agosto, o senador Josh Hawley, R-Mo., Exigiu que a Meta CEO Mark Zuckerberg Entregue um livro de regras de 200 páginas sobre o comportamento do chatbot, juntamente com os manuais internos de fiscalização. Meta perdeu o primeiro prazo, mas recentemente começou a fornecer documentos, citando uma questão técnica. Isso ocorre quando os reguladores debatem em todo o mundo como garantir a segurança dos sistemas de IA, principalmente à medida que se integram às ferramentas de comunicação diárias.

Ao mesmo tempo, o recente evento Meta Join 2025 apresentou os mais novos produtos de AI da empresa, incluindo óculos inteligentes Ray-Ban com shows embutidos e recursos aprimorados de chatbot. Esses anúncios sublinham como a Meta está profundamente integrando a IA na vida cotidiana, tornando os padrões de segurança recentemente revelados ainda mais significativos.

Meta adiciona recursos de segurança para adolescentes ao Instagram, Fb

Como os pais podem proteger seus filhos dos riscos de IA

Embora as novas regras da Meta possam estabelecer limites mais rígidos, os pais ainda desempenham um papel basic para manter as crianças seguras on-line. Aqui estão as etapas que você pode tomar agora:

• Fale abertamente sobre chatbots: Explique que as ferramentas de IA não são pessoas e nem sempre podem dar conselhos seguros.
• Defina limites de uso: Exige que as crianças usem ferramentas de IA em espaços compartilhados para que você possa monitorar as conversas.
• Revise as configurações de privacidade: Verifique os controles do aplicativo e do dispositivo para limitar com quem seu filho pode conversar.
• Incentive os relatórios: Ensine as crianças a dizer se um chatbot diz algo confuso, assustador ou inapropriado.
• Fique atualizado: Siga os desenvolvimentos de empresas como Meta e reguladores como a FTC para saber quais regras estão mudando.

O que isso significa para você

Se você usa a AI Chatbots, essa história é um lembrete de que grandes empresas de tecnologia ainda estão descobrindo como estabelecer limites. Embora as regras atualizadas da Meta possam impedir o uso indevido mais prejudicial, os documentos mostram com que facilidade as lacunas podem aparecer e a quantidade de pressão que ele leva dos reguladores e jornalistas para fechá -los.

Clique aqui para obter o aplicativo Fox Information

As principais toca de Kurt

As diretrizes de AI da Meta mostram progresso e vulnerabilidade. Por um lado, a empresa apertou restrições para proteger as crianças. Por outro lado, o fato de que os erros anteriores permitiram conteúdo questionável revela o quão frágeis essas salvaguardas podem ser. A transparência das empresas e a supervisão dos reguladores provavelmente continuará moldando a evolução da IA.

Você acha que empresas como a Meta estão fazendo o suficiente para manter a IA segura para crianças, ou os governos devem estabelecer regras mais rigorosas? Informe -nos escrevendo para nós em Cyberguy.com/contact

Inscreva -se para o meu relatório gratuito do Cyberguy
Obtenha minhas melhores dicas de tecnologia, alertas de segurança urgentes e ofertas exclusivas entregues diretamente à sua caixa de entrada. Além Cyberguy.com/e-newsletter

Copyright 2025 Cyberguy.com. Todos os direitos reservados.