O aviso veio enquanto os usuários do X continuavam a gerar milhares de fotos de mulheres e crianças despidas usando a IA de Grok, inclusive em poses sexualizadas e em biquínis.
Os chamados deepfakes incluíram imagens da Princesa de Gales, ministros, deputados e celebridades.
Na quarta-feira, um órgão de vigilância da Web no Reino Unido alertou que havia descoberto imagens criadas com Grok que foram compartilhadas em um fórum da darkish internet que constituiriam materials ilegal de abuso sexual infantil.
Entende-se que o número 10 levantou as imagens diretamente com o X, anteriormente conhecido como Twitter, que Musk adquiriu por US$ 44 bilhões (US$ 76 bilhões) em 2022.
Starmer disse à Biggest Hits Radio: “X tem que controlar isso, e o Ofcom tem todo o nosso apoio para tomar medidas em relação a isso. Isso é errado.
“É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa.”
A disputa ameaça aprofundar o conflito com os Estados Unidos sobre a liberdade de expressão. A Casa Branca acusou os trabalhistas de retrocederem na liberdade de expressão, e o presidente Donald Trump criticou diretamente as regras tecnológicas do Reino Unido como “não uma coisa boa”.
Musk – que é o homem mais rico do mundo – criticou a Lei de Segurança On-line da Grã-Bretanha, alegando que o objectivo da lei é a “supressão do povo”.
De acordo com a lei, as autoridades britânicas têm o poder de impedir o acesso a websites de redes sociais que repetidamente falham na remoção de imagens ilegais, como materials de abuso infantil ou pornografia de vingança.
Ofcom, o órgão fiscalizador da tecnologia, pode solicitar uma ordem judicial – chamada ordem de restrição de acesso – exigindo que empresas de Web, como a BT ou lojas de aplicativos para smartphones, bloqueiem websites e aplicativos ofensivos da Grã-Bretanha. Até agora, nunca usou o poder.
O regulador seria obrigado a seguir um processo authorized antes de solicitar uma proibição, que incluiria uma investigação e uma decisão provisória. Se uma empresa se recusar a responder às preocupações do Ofcom, poderá tentar bloquear o web site da empresa no Reino Unido.
A Ofcom alertou esta semana que poderia iniciar uma investigação sobre X por causa das imagens e disse que fez “contato urgente” com o web site de mídia social.
Os pesquisadores descobriram que os usuários do X têm gerado milhares de imagens de mulheres por IA por hora, o que normalmente envolve comentários abaixo de uma imagem com frases como “coloque-a de biquíni”.
O chatbot Grok do X responderá então, gerando uma imagem sexualizada de uma mulher actual sem o seu consentimento.
Separadamente, na quinta-feira, a CNN informou que Musk ordenou que a equipe da xAI, seu negócio de IA, afrouxasse as grades de proteção de Grok. Uma fonte disse que ele disse em uma reunião que estava “insatisfeito com a censura excessiva”.
Três membros da equipe de segurança da xAI deixaram a empresa brand depois.
Louise Haigh, ex-secretária de Transportes de Starmer, instou o governo e o Partido Trabalhista a apagarem as suas contas X.
Ela disse: “A facilitação, se não o incentivo, do abuso sexual infantil significa que é injusto usar o web site por mais um minuto”.
As imagens de X também provocaram raiva nos EUA. Ted Cruz, um senador republicano, classificou as imagens de IA como “inaceitáveis” e uma violação de uma lei dos EUA que proíbe a pornografia de vingança de IA.
Musk disse esta semana: “Qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”.
X foi contatado para comentar.
Inscreva-se nas escolhas do editor do Herald Premiumentregue diretamente na sua caixa de entrada todas as sextas-feiras. O editor-chefe Murray Kirkness escolhe os melhores recursos, entrevistas e investigações da semana. Inscreva-se no Herald Premium aqui.
