Grok, de Musk, é impedido de tirar fotos após reação international

A plataforma X de Elon Musk anunciou na quarta-feira (14 de janeiro de 2026) medidas para evitar que seu chatbot de IA Grok se despisse de imagens de pessoas reais, após a reação international sobre sua geração de fotos sexualizadas de mulheres e crianças.

O anúncio foi feito depois que o procurador-geral da Califórnia lançou uma investigação sobre o xAI de Musk – o desenvolvedor do Grok – sobre o materials sexualmente explícito e vários países bloquearam o acesso ao chatbot ou lançaram suas próprias investigações.

X disse que irá “bloquear geograficamente a capacidade” de todos os usuários do Grok e do X de criar imagens de pessoas em “biquínis, roupas íntimas e trajes semelhantes” nas jurisdições onde tais ações são consideradas ilegais.

“Implementamos medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”, disse a equipe de segurança de X em comunicado.

“Esta restrição se aplica a todos os usuários, incluindo assinantes pagos.”

Em uma “camada additional de proteção”, a criação de imagens e a capacidade de editar fotos por meio da conta Grok de X agora estavam disponíveis apenas para assinantes pagos, acrescentou o comunicado.

A Comissão Europeia, que atua como vigilante digital da UE, disse anteriormente que havia tomado nota das “medidas adicionais que X está tomando para proibir Grok de gerar imagens sexualizadas de mulheres e crianças”.

“Avaliaremos cuidadosamente estas mudanças para garantir que protegem eficazmente os cidadãos da UE”, disse o porta-voz da Comissão Europeia, Thomas Regnier, num comunicado, que se seguiu a duras críticas sobre as imagens não consensuais de nus.

‘Chocante’

A pressão international vem aumentando sobre a xAI para controlar Grok depois que seu chamado recurso “Modo Picante” permitiu que os usuários criassem deepfakes sexualizados de mulheres e crianças usando instruções de texto simples, como “colocá-la de biquíni” ou “tirá-la de roupa”.

“A avalanche de relatórios detalhando o materials não consensual e sexualmente explícito que a xAI produziu e postou on-line nas últimas semanas é chocante”, disse o procurador-geral da Califórnia, Rob Bonta, na quarta-feira (14 de janeiro).

“Temos tolerância zero com a criação e disseminação baseada em IA de imagens íntimas não consensuais ou de materials de abuso sexual infantil”.

Bonta disse que a investigação da Califórnia determinaria se a xAI violou a lei estadual depois que as imagens explícitas foram “usadas para assediar pessoas na Web”.

O governador da Califórnia, Gavin Newsom, disse que a decisão “vil” da xAI de permitir a proliferação de deepfakes sexualmente explícitos o levou a instar o procurador-geral a responsabilizar a empresa.

Aumentando ainda mais a pressão sobre a empresa de Musk na quarta-feira (14 de janeiro), uma coalizão de 28 grupos da sociedade civil enviou cartas abertas aos CEOs da Apple e do Google, instando-os a banir Grok e X de suas lojas de aplicativos em meio ao aumento de imagens sexualizadas.

A Indonésia no sábado (10 de janeiro) tornou-se o primeiro país a bloquear totalmente o acesso a Grok, com a vizinha Malásia seguindo no domingo (11 de janeiro).

A Índia disse no domingo (11 de janeiro) que X removeu milhares de postagens e centenas de contas de usuários em resposta às suas reclamações.

O regulador de mídia britânico Ofcom disse na segunda-feira (12 de janeiro) que estava abrindo uma investigação para saber se X não cumpriu a lei do Reino Unido sobre as imagens sexuais.

E a comissária francesa para as crianças, Sarah El Bushy, disse na terça-feira (13 de janeiro) que encaminhou as imagens geradas por Grok aos promotores franceses, ao regulador de mídia Arcom e à União Europeia.

Na semana passada, uma análise de mais de 20.000 imagens geradas por Grok pela AI Forensics, uma organização sem fins lucrativos de Paris, descobriu que mais da metade representava “indivíduos com trajes mínimos” – a maioria deles mulheres, e 2% pareciam ser menores.