As autoridades da Califórnia anunciaram uma investigação sobre a produção de Grok de Elon Musk.
O principal procurador do estado disse que Grok, uma ferramenta de IA e gerador de imagens fabricado pela empresa xAI de Musk, parece estar facilitando o assédio de mulheres e meninas com imagens deepfake no X e em outros lugares on-line.
“A avalanche de relatórios detalhando o materials não consensual e sexualmente explícito que a xAI produziu e postou on-line nas últimas semanas é chocante”, disse o procurador-geral da Califórnia, Rob Bonta, em um comunicado. “Exorto a xAI a tomar medidas imediatas para garantir que isso não vá mais longe.”
O escritório de Bonta está investigando se e como o xAI violou a lei estadual.
No X, o governador da Califórnia, Gavin Newsom, pediu uma investigação sobre “a repugnante disseminação de pornografia infantil por Grok neste web site”.
“A decisão da xAI de criar e hospedar um terreno fértil para predadores espalharem deepfakes de IA sexualmente explícitos e não consensuais, incluindo imagens que despem crianças digitalmente, é vil”, dizia um tweet de sua conta oficial.
No mesmo dia, Musk negou que Grok estivesse sendo usado para divulgar imagens nuas de menores. Ele escreveu no X: “Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada por Grok. Literalmente zero.”
Há quase duas semanas, a própria ferramenta de IA disse ter gerado “imagens representando menores com roupas mínimas” quando questionada pelos usuários.
Houve uma enxurrada de relatos nas últimas semanas de que usuários do Grok estão tirando fotos de mulheres ou crianças encontradas on-line e usando o bot xAI para despi-las virtualmente, disse Bonta.
Os modelos de geração de imagens de Grok incluem o que a xAI promove como um “modo picante” para gerar e editar materials sexual, incluindo fotos, de acordo com o gabinete do procurador-geral.
Na semana passada, uma análise de mais de 20.000 imagens geradas por Grok pela AI Forensics, uma organização sem fins lucrativos de Paris, descobriu que mais de metade representava “indivíduos com trajes mínimos” – a maioria deles mulheres, e 2% pareciam ter menos de 18 anos.
As imagens geradas por Grok estão sendo usadas para assediar figuras públicas, bem como usuários típicos de redes sociais, segundo Bonta.
Três senadores democratas dos EUA pediram à Apple e ao Google que removessem os aplicativos X e Grok de suas lojas de aplicativos na semana passada, em resposta à enxurrada de imagens sexualizadas. Os dois gigantes da tecnologia permaneceram calados em resposta.
xAI enfrentou reação world por causa das imagens falsas sexualizadas. A Indonésia tornou-se no sábado o primeiro país a bloquear totalmente o acesso a Grok, seguida pela vizinha Malásia no domingo. A Índia disse no domingo que X removeu milhares de postagens e centenas de contas de usuários em resposta às suas reclamações.
O regulador de mídia britânico Ofcom disse na segunda-feira que estava abrindo um inquérito para saber se X não cumpriu a lei do Reino Unido sobre as imagens sexuais. A comissária francesa para as crianças, Sarah El Furry, disse na terça-feira que encaminhou as imagens geradas por Grok aos promotores franceses, ao regulador de mídia Arcom e à União Europeia.
A Comissão Europeia, que atua como vigilante digital da UE, ordenou que X retenha todos os documentos e dados internos relacionados a Grok até o remaining de 2026 em resposta ao alvoroço.
