“É um insulto às vítimas da misoginia e da violência sexual.”
O porta-voz da UE para assuntos digitais, Thomas Regnier, disse que “isto não muda a nossa questão basic, assinatura paga ou assinatura não paga. Não queremos ver essas imagens. É simples assim”.
“O que pedimos às plataformas é que se certifiquem de que o seu design e os seus sistemas não permitem a geração de tal conteúdo ilegal”, disse ele aos jornalistas.
A Comissão Europeia, que atua como vigilante digital da UE, ordenou que X retenha todos os documentos e dados internos relacionados a Grok até o remaining de 2026 em resposta ao alvoroço.
Grok, desenvolvido pela start-up xAI de Musk e integrado ao X, anunciou a mudança após o tiroteio deadly em Minneapolis por um agente de imigração na quarta-feira (horário native), que desencadeou uma onda de deepfakes de IA.
Alguns usuários do X usaram Grok para despir digitalmente uma foto antiga da vítima, bem como uma nova foto de seu corpo caído após o tiroteio, gerando imagens de IA mostrando-a de biquíni.
Outra mulher erroneamente identificada como vítima também foi submetida a manipulação semelhante.
As imagens fabricadas ainda pareciam flutuar em torno do X – e se espalhar para outras plataformas tecnológicas – na sexta-feira, apesar da nova restrição.
Não houve nenhum comentário imediato de X sobre os deepfakes de Minneapolis.
Quando contatado pela AFP para comentar por e-mail, o xAI respondeu com uma resposta concisa e automatizada: “Legacy Media Lies”.
“Restringir as ferramentas de geração de imagens da Grok a assinantes pagantes pode ajudar a limitar a escala e conter algum uso indevido, mas não aborda totalmente as lacunas de segurança que permitiram o surgimento de conteúdo não consensual e sexualizado”, disse Cliff Steinhauer, da organização sem fins lucrativos Nationwide Cybersecurity Alliance.
“As restrições de acesso por si só não são uma salvaguarda abrangente, uma vez que maus atores motivados ainda podem encontrar maneiras de contorná-las, e uma proteção significativa do usuário precisa, em última análise, ser baseada na forma como essas ferramentas são projetadas e governadas.”
França, Malásia e Índia também já reagiram contra o uso do Grok para alterar fotos de mulheres e crianças após uma enxurrada de reclamações de usuários, anunciando investigações ou apelando à empresa de Musk para a rápida remoção das imagens explícitas.
O regulador de comunicações da Grã-Bretanha, Ofcom, anunciou no início desta semana que havia feito “contato urgente com X e xAI” sobre o recurso Grok, alertando que poderia abrir uma investigação dependendo de sua resposta.
Na sexta-feira, um porta-voz do Ofcom disse que o regulador “recebeu uma resposta” e estava agora “realizando uma avaliação acelerada com urgência”.
Na semana passada, em resposta a uma postagem sobre as imagens explícitas, Musk disse que qualquer pessoa que use o Grok para “criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
Mas ele pareceu minimizar a polêmica em uma postagem separada, adicionando emojis risonhos ao compartilhar de novo com seus 232 milhões de seguidores no X uma postagem apresentando uma torradeira envolta em um biquíni.
“Grok pode colocar biquíni em tudo”, dizia o put up authentic.
– Agência France-Presse
