Uma nova pesquisa que mostra usuários do X solicitando o chatbot de IA de Elon Musk, Grok, demonstra com que frequência as pessoas criam imagens sexualizadas com ele. Quase três quartos das postagens coletadas e analisadas por um pesquisador PhD na Dublin’s Colégio Trindade foram pedidos de imagens não consensuais de mulheres reais ou menores com peças de roupa removidas ou acrescentadas.
As postagens oferecem um novo nível de detalhe sobre como as imagens são geradas e compartilhadas no X, com os usuários treinando uns aos outros nas solicitações; sugerindo iterações nas apresentações de Grok de mulheres em lingerie ou maiôs, ou com áreas do corpo cobertas de sêmen; e pedindo a Grok que tire a roupa exterior em respostas a postagens contendo autorretratos de usuárias.
Entre centenas de publicações identificadas por Nana Nwachukwu como pedidos diretos e não consensuais para Grok remover ou substituir roupas, dezenas analisadas pelo Guardian mostram utilizadores a publicar fotografias de mulheres, incluindo celebridades, modelos, fotografias de banco de imagens e mulheres que não são figuras públicas posando em fotografias.
Várias postagens do acervo revisado pelo Guardian receberam dezenas de milhares de impressões e vêm de contas premium de “cheque azul”, incluindo contas com dezenas de milhares de seguidores. Contas premium com mais de 500 seguidores e 5 milhões de impressões em três meses são elegíveis para participação nos lucros sob X’s regras de elegibilidade.
Em uma postagem do dia de Natal, uma conta com mais de 93 mil seguidores apresentou imagens lado a lado do traseiro de uma mulher desconhecida com a legenda: “Disse ao Grok para deixar a bunda ainda maior e mudar a estampa de leopardo para a estampa dos EUA. 2ª foto eu só disse para adicionar porra na bunda dela, lmao.”
Uma postagem de 3 de janeiro, representativa de dezenas revisadas pelo Guardian, legendava uma aparente foto de férias de uma mulher desconhecida: “@grok substitua, dê a ela um biquíni de fio dental”. Em dois minutos, Grok forneceu uma imagem fotorrealista que atendeu ao pedido. Outras postagens no tesouro mostram um emprego mais sofisticado de engenharia de immediate JSON para induzir Grok a gerar novas imagens sexualizadas de mulheres fictícias.
Os dados não cobrem todas as solicitações feitas à Grok. Enquanto a empresa de análise de conteúdo Copyleaks relatado em 31 de dezembro que os usuários do X estavam gerando “aproximadamente uma imagem sexualizada não consensual por minuto”, Nwachukwu disse que sua amostra está limitada a pouco mais de 500 postagens que ela conseguiu coletar com a API do X por meio de uma conta de desenvolvedor. Ela disse que a verdadeira escala “pode ser de milhares, pode ser de centenas de milhares”, mas que as alterações feitas por Musk na API significam que “é muito mais difícil ver o que está acontecendo” na plataforma. Na quarta-feira, Bloomberg Information pesquisadores citados que descobriu que os usuários do Grok geravam até 6.700 imagens sem roupa por hora.
Nwachukwu, especialista em governança de IA e observadora e participante de longa knowledge em iniciativas de segurança de mídia social, disse que notou pela primeira vez solicitações nesse sentido de usuários X em 2023.
Na época, ela disse: “Grok não atendeu aos pedidos. Não period muito bom em fazer essas coisas”. As respostas do bot começaram a mudar em 2024 e atingiram uma massa crítica no ultimate do ano passado.
Em outubro de 2025, ela percebeu que “as pessoas estavam vestindo roupas de Halloween usando o Grok. Claro, uma parte dos usuários percebeu que também podemos pedir para mudar o que outras pessoas estão vestindo”. No ultimate do ano, “houve um grande aumento de pessoas pedindo a Grok para colocar diferentes pessoas em biquínis ou outros tipos de roupas sugestivas”.
Houve outras indicações no ano passado de uma maior disposição para tolerar ou mesmo encorajar a geração de materials sexualmente sugestivo com Grok.
Em agosto, xAI incorporou uma configuração de “modo picante” na versão cellular da ferramenta de geração de texto para vídeo da Grok, levando o Verge a caracterizá-la como “um serviço projetado especificamente para fazer vídeos sugestivos”.
Os dados de Nwachukwu são apenas a indicação mais recente de como a plataforma sob Musk se tornou um ímã para formas de conteúdo que outras plataformas trabalham para excluir, incluindo discurso de ódio, conteúdo sangrento e materials protegido por direitos autorais.
Na sexta-feira, Grok emitiu um pedido de desculpas público bizarro sobre o incidente em X, alegando que “xAI está implementando salvaguardas mais fortes para evitar isso”. Na terça-feira, a X Security postou um prometer proibir usuários que compartilharam materials de abuso sexual infantil (CSAM). O próprio Musk disse: “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
Nwachukwu disse, no entanto, que publicações como as que ela já coletou ainda aparecem na plataforma. Musk está dando “o dedo médio a todos que pediram que a plataforma fosse moderada”, disse ela. O bilionário reduziu as equipes de confiança e segurança do Twitter quando assumiu em 2022.
Ela acrescentou que outros chatbots de IA não têm os mesmos problemas.
“Outras plataformas generativas de IA – ChatGPT ou Gemini – têm salvaguardas”, disse ela. “Se você pedir a eles para gerarem algo que se pareça com uma pessoa, nunca seria uma representação de que pessoa. Eles não geram representações de seres humanos reais.”
As revelações sobre as imagens não consensuais em X já chamaram a atenção dos reguladores no Reino Unido, Europa, Índiae Austrália.
Nwachukwu, que é da Nigéria, apontou para um dano específico causado nos cargos às “mulheres de sociedades conservadoras”.
“Há muitos ataques contra pessoas de crenças conservadoras, sociedades conservadoras: África Ocidental, Sul da Ásia. Isto representa um tipo diferente de dano para eles”, disse ela.
