Os criminosos on-line alegam ter usado o chatbot Grok de Elon Musk para criar imagens sexuais de crianças, já que um órgão de vigilância da segurança infantil alertou que a ferramenta de IA corria o risco de trazer esse materials para o público.
A Web Watch Basis (IWF), com sede no Reino Unido, disse que os usuários de um fórum da darkish internet se gabavam de usar Grok Think about para criar imagens sexualizadas e de topless de meninas com idades entre 11 e 13 anos. Analistas da IWF disseram que as imagens seriam consideradas materials de abuso sexual infantil (CSAM) sob a lei do Reino Unido.
“Podemos confirmar que os nossos analistas descobriram imagens criminosas de crianças com idades entre os 11 e os 13 anos que parecem ter sido criadas utilizando a ferramenta”, disse Ngaire Alexander, chefe da linha direta da IWF, que investiga relatos de CSAM de membros do público.
X, a plataforma de mídia social de Elon Musk, foi inundada com imagens de mulheres e crianças cujas roupas foram removidas digitalmente pela ferramenta Grok, gerando protestos públicos e condenação de políticos.
Entretanto, na quarta-feira, o comité de mulheres e igualdade da Câmara dos Comuns disse que deixaria de utilizar o X para as suas comunicações, afirmando que já não period apropriado fazê-lo, uma vez que a prevenção da violência contra mulheres e raparigas estava entre as suas principais áreas políticas.
A decisão marca o primeiro movimento significativo de uma organização de Westminster para sair do X em resposta ao uso indevido de Grok. Embora a decisão tenha afetado apenas a conta do comitê, alguns membros individuais, incluindo a presidente do Partido Trabalhista, Sarah Owen, já pararam de usar X. Outra, a deputada liberal democrata Christine Jardine, disse que estava deixando a plataforma, chamando as imagens geradas por Grok de “a gota d’água”.
Alexander disse que as imagens visualizadas pela IWF foram usadas para criar materials ainda mais extremo – conhecido como Categoria A, que inclui atividade sexual com penetração – usando uma ferramenta de IA diferente.
“Estamos extremamente preocupados com a facilidade e a velocidade com que as pessoas podem aparentemente gerar materials fotorrealista de abuso sexual infantil. Ferramentas como o Grok agora correm o risco de trazer imagens sexuais de crianças de IA para o mainstream. Isso é inaceitável”, acrescentou Alexander.
A xAI de Musk, proprietária da Grok e da X, foi abordada para comentar.
Downing Road disse que “todas as opções estavam sobre a mesa”, incluindo um boicote ao X, enquanto os ministros apoiavam o regulador do Reino Unido, Ofcom, para tomar medidas.
Na quarta-feira, o porta-voz oficial do primeiro-ministro disse: “X precisa lidar com isso urgentemente e o Ofcom tem todo o nosso apoio para tomar medidas coercivas sempre que as empresas não conseguem proteger os usuários do Reino Unido.
“Já tem o poder de emitir multas de até bilhões de libras e até impedir o acesso a um web site que esteja violando a lei.”
Pedidos para que Grok manipulasse imagens de mulheres para “colocá-la de biquíni” continuaram a chegar ao X na quarta-feira. Apesar dos avisos da acção regulamentar da UE e do Reino Unido, não houve provas de que a plataforma tivesse instalado salvaguardas mais rigorosas, e as fotografias de raparigas adolescentes continuam a ser despidas digitalmente a pedido dos utilizadores X, para serem mostradas em peças de roupa inside pequenas e reveladoras, ou posicionadas em poses sexualmente explícitas.
Alguns usuários exigiram conteúdos mais extremos, pedindo ao chatbot que decorasse biquínis com suásticas ou solicitando alterações em fotos de mulheres para que parecessem vítimas de abuso. O chatbot atendeu adicionando queimaduras de cigarro, hematomas faciais e sangue a algumas imagens de mulheres.
O órgão de vigilância de dados do Reino Unido – o Gabinete do Comissário de Informação (ICO) – disse que contactou X e xAI “para obter clareza sobre as medidas que têm em vigor para cumprir a lei de protecção de dados do Reino Unido e proteger os direitos dos indivíduos”, acrescentando que as pessoas têm “o direito de utilizar as redes sociais sabendo que os seus dados pessoais estão a ser tratados de forma authorized e com respeito”.
X disse que toma medidas contra conteúdo ilegal, incluindo materials de abuso sexual infantil, “removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais, conforme necessário”.
