O órgão de vigilância de segurança on-line da Austrália está investigando imagens deepfake sexualizadas postadas no X por seu chatbot de IA, Grok.
O X de Elon Musk tem enfrentado uma reação world desde que Grok começou a gerar imagens sexualizadas de mulheres e meninas sem o seu consentimento, em resposta a pedidos para que as despisse.
Ashley St Clair, a mãe distante de um dos filhos de Musk, disse que não teve resposta às suas reclamações sobre ser despida digitalmente.
“Fiquei horrorizada, me senti violada, principalmente ao ver a mochila do meu filho na parte de trás”, disse ela esta semana.
As imagens falsas incluíam a de uma menina de 12 anos de biquíni. O chatbot Grok emitiu um ‘pedido de desculpas’ quando solicitado, mas continua a gerar deepfakes.
A eSafety Australia disse que estava investigando imagens de adultos, mas que as imagens de crianças não atingiam, neste momento, o limite para materials de exploração sexual infantil.
“Desde o ultimate de 2025, a eSafety recebeu vários relatórios relacionados ao uso de Grok para gerar imagens sexualizadas sem consentimento”, disse um porta-voz da eSafety.
“Alguns relatos referem-se a imagens de adultos, que são avaliadas ao abrigo do nosso esquema de abuso baseado em imagens, enquanto outros dizem respeito a potencial materials de exploração sexual infantil, que são avaliados ao abrigo do nosso esquema de conteúdo ilegal e restrito.
“As denúncias de abuso baseadas em imagens foram recebidas muito recentemente e ainda estão sendo avaliadas.
“No que diz respeito às denúncias de conteúdo ilegal e restrito, o materials não atendeu ao limite de classificação para materials de exploração sexual infantil de classe 1. Como resultado, a eSafety não emitiu avisos de remoção nem tomou medidas coercivas em relação a essas reclamações específicas.”
Inscreva-se: e-mail de notícias de última hora da UA
O regulador australiano outline materials ilegal e restrito como “conteúdo on-line que vai desde o materials mais gravemente prejudicial, como imagens e vídeos que mostram o abuso sexual de crianças ou atos de terrorismo, até conteúdo que não deve ser acedido por crianças, como atividade sexual simulada, nudez detalhada ou violência de alto impacto”.
O aplicativo X permite que os usuários acessem um “modo picante” para conteúdo explícito.
“Isso não é picante”, disse o porta-voz de assuntos digitais da União Europeia, Thomas Regnier. disse ao ABC. “Isso é ilegal. Isso é terrível.”
Eliot Higgins, fundador do grupo de jornalismo investigativo Bellingcat, expôs como Grok lidou com solicitações manipular uma fotografia da vice-primeira-ministra sueca, Ebba Busch, no parlamento.
Os usuários deram instruções a Grok como “biquíni agora” e “agora coloque-a em um biquíni da bandeira confederada”. Higgins disse que as imagens fornecidas refletiam as instruções.
Na quarta-feira foi revelado que a xAI, empresa de inteligência synthetic de Musk, que desenvolveu o Grok, arrecadou 20 mil milhões de dólares na sua última ronda de financiamento.
A secretária de tecnologia do Reino Unido, Liz Kendall, disse que as imagens deepfake eram “terríveis e inaceitáveis em uma sociedade decente” e que X precisava lidar com isso “urgentemente”.
O porta-voz da eSafety disse que o regulador continua “preocupado com o uso crescente de IA generativa para sexualizar ou explorar pessoas, especialmente quando há crianças envolvidas”.
“A eSafety tomou medidas coercivas em 2025 em relação a alguns dos serviços de ‘nudificação’ mais amplamente utilizados para criar materials de exploração sexual infantil de IA, levando à sua retirada da Austrália”, disse o porta-voz.
Guardian Australia contatou X para comentar. Na segunda-feira, a empresa disse: “Tomamos medidas contra o conteúdo ilegal no X, incluindo materials de abuso sexual infantil, removendo-o, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais, conforme necessário”.
Após protestos globais sobre a natureza prejudicial do conteúdo, Musk postou que “qualquer pessoa que use Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
Na Austrália, o suporte está disponível em Além do azul em 1300 22 4636, Linha de vida em 13 11 14, e em Linha Masculina pelo telefone 1300 789 978. Crianças, jovens, pais e professores podem entrar em contato com o Linha de apoio para crianças em 1800 55 1800; sobreviventes adultos podem procurar ajuda em Fundação Nó Azul em 1300 657 380. No Reino Unido, a instituição de caridade Mente está disponível no 0300 123 3393 e Linha infantil no 0800 1111. O NSPCC oferece apoio a crianças pelo telefone 0800 1111 e adultos preocupados com uma criança pelo telefone 0808 800 5000. A Associação Nacional para Pessoas Abusadas na Infância (Napac) oferece apoio para sobreviventes adultos pelo telefone 0808 801 0331. Nos EUA, ligue ou envie uma mensagem de texto Saúde Mental América em 988 ou converse em 988lifeline.org, ou ligue ou envie uma mensagem de texto para Ajuda infantil linha direta de abuso em 800-422-4453. Outras fontes de ajuda podem ser encontradas em Linha de Apoio à Criança Internacional
