A Indonésia restringiu temporariamente o acesso ao principal chatbot da xAI em meio a críticas crescentes
A Indonésia bloqueou o Grok AI de Elon Musk devido às crescentes preocupações de que o chatbot facilite a criação de conteúdo pornográfico deepfake.
A medida do Ministério de Comunicações e Assuntos Digitais do país torna a nação do Sudeste Asiático a primeira a proibir temporariamente o acesso à ferramenta de IA.
Grok está sob escrutínio international depois que surgiram relatos de que o chatbot pode gerar deepfakes eróticos a partir de fotografias, incluindo imagens de menores. Desde então, alguns reguladores abriram investigações sobre conteúdo sexualizado produzido pelo aplicativo, desenvolvido pela xAI.
A Indonésia, que abriga a maior população muçulmana do mundo, impõe regras estritas que proíbem materiais considerados obscenos.
“O governo vê os deepfakes sexuais não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, O ministro da Comunicação e Assuntos Digitais, Meutya Hafid, disse, descrevendo o uso indevido da IA para criar pornografia falsa como forma de “violência de base digital”.
Hafid acrescentou que o futuro de Grok na Indonésia, um dos maiores mercados de mídia social do mundo, dependerá da disposição de X em implementar filtros de conteúdo robustos e aderir aos padrões éticos de IA. Autoridades de X foram convocadas para negociações.
Na quinta-feira, a Comissão Europeia ordenou que X preservasse todos os documentos e dados relacionados ao chatbot Grok até o last de 2026. A medida de precaução, tomada ao abrigo da Lei de Serviços Digitais da UE, destina-se a evitar a perda de provas em meio a preocupações sobre conteúdo potencialmente ilegal.
No Reino Unido, o The Telegraph informou no início desta semana que X poderia enfrentar um possível bloqueio por conteúdo pornográfico gerado por Grok. O primeiro-ministro britânico, Keir Starmer, teria encaminhado a questão ao regulador de mídia Ofcom, com opções que incluíam uma proibição whole.
No início deste mês, os promotores franceses abriram uma investigação sobre a suposta disseminação de deepfakes sexualmente explícitos gerados por Grok, depois que centenas de pessoas relataram que suas fotos haviam sido digitalizadas. “despido”.
O empreendimento de IA de Musk tem enfrentado controvérsia crescente desde o lançamento do Grok 4 em julho de 2025, com os críticos apontando a retórica extremista, um preconceito político e características sexualizadas como prova de salvaguardas inadequadas. Os especialistas alertam que as ferramentas de IA mal moderadas correm o risco de expor os utilizadores, especialmente as crianças, a conteúdos nocivos.
Você pode compartilhar esta história nas redes sociais:
