O X de Elon Musk foi hoje criticado por “monetizar o abuso” sobre imagens sexualizadas criadas pela ferramenta Grok AI do website de mídia social – enquanto os ministros consideram uma proibição.
A secretária de Tecnologia, Liz Kendall, disse aos deputados que a IA estava a ser usada para criar imagens de mulheres “amarradas e amordaçadas, com hematomas, cobertas de sangue e muito, muito mais”.
Ela rotulou-as como “armas de abuso” e também referiu a investigação da Web Watch Basis, que relatou “imagens criminosas de crianças a partir dos 11 anos”.
Isto incluía “meninas sexualizadas e crianças pequenas”, disse Kendall à Câmara dos Comuns.
Ela anunciou que, de acordo com as leis aprovadas no ano passado, será crime criar ou solicitar a criação de imagens íntimas não consensuais a partir desta semana.
Kendall também observou como outra legislação tornou o compartilhamento de imagens íntimas sem o consentimento de alguém um crime tanto para indivíduos quanto para plataformas.
Isso ocorreu depois que o regulador Ofcom disse que estava conduzindo uma investigação oficial sobre X de acordo com a Lei de Segurança On-line.
O secretário de Tecnologia disse que a investigação sobre a Grok AI não deve levar “meses e meses” e instou o regulador a concluir o seu trabalho “o mais rápido possível”.
A secretária de Tecnologia, Liz Kendall, disse aos parlamentares que a IA estava sendo usada para criar imagens de mulheres “amarradas e amordaçadas, com hematomas, cobertas de sangue e muito, muito mais”.
O uso de Grok para criar imagens deepfake de nudez se generalizou nas últimas semanas, gerando condenação do governo e uma investigação do Ofcom
“O público, e mais importante ainda, as vítimas das atividades de Grok, esperam uma ação rápida e decisiva. Portanto, isto não deve demorar meses e meses”, disse Kendall aos deputados.
‘Mas X não precisa esperar a conclusão da investigação do Ofcom.
“Eles podem optar por agir mais cedo para garantir que este materials abominável e ilegal não possa ser partilhado na sua plataforma.
‘Se não o fizerem, o Ofcom terá o apoio deste Governo para usar todos os poderes que o Parlamento lhes conferiu.
‘Gostaria de lembrar ao X e a todas as outras plataformas que isso inclui o poder de emitir multas de até 10% da receita mundial e qualificada da empresa.’
Grok, desenvolvido por outra empresa fundada por Musk chamada xAI, lançou um novo recurso avançado de geração de imagens em julho do ano passado.
Mas a sua utilização para a criação de imagens deepfake de nudez tornou-se generalizada nas últimas semanas, provocando a condenação do governo e da investigação do Ofcom.
X enfureceu ainda mais os ministros na semana passada, quando limitou os recursos de geração e edição de imagens do Grok apenas para assinantes pagantes do website.
Kendall disse ao Commons na segunda-feira: ‘Na semana passada, X limitou a função de criação de imagens a assinantes pagos. Isso não chega nem perto o suficiente.
“É um insulto para as vítimas dizer: ‘você ainda pode ter este serviço se estiver disposto a pagar’, e isso é monetizar o abuso.
‘Então, deixe-me ser bem claro: de acordo com a Lei de Segurança On-line, compartilhar imagens íntimas sem o consentimento de alguém ou ameaçar compartilhá-las, incluindo imagens de pessoas em roupas íntimas, é uma ofensa prison para indivíduos e para plataformas.’
Custa entre £ 3,50 a £ 36,17 por mês para se tornar um usuário ‘premium’ do X, dependendo do nível de assinatura paga escolhido.
Ofcom tem poderes sob a Lei de Segurança On-line para multar empresas ou tomar medidas criminais.
Também pode ordenar que provedores de pagamento, anunciantes e provedores de serviços de Web parem de trabalhar com um website, banindo-os efetivamente, embora isso exija acordo dos tribunais.
Na manhã de segunda-feira, o secretário de negócios, Peter Kyle, disse que bloquear o acesso ao X estava entre as opções que estavam sendo analisadas.
Questionado se a Grã-Bretanha consideraria uma proibição se a investigação do Ofcom dissesse que period necessária para proteger as crianças, Kyle disse: “Sim, claro.
‘O Ofcom atua como um executor, como uma agência de fiscalização, e deve usar esses poderes em toda a extensão da lei para manter as pessoas seguras neste país.’
Uma porta-voz do Ofcom disse: “As plataformas devem proteger as pessoas no Reino Unido de conteúdos que são ilegais no Reino Unido, e não hesitaremos em investigar onde suspeitamos que as empresas estão a falhar nos seus deveres, especialmente quando há risco de danos às crianças”.
Musk alertou qualquer acção para bloquear a sua plataforma X seria “fascista”.
A Casa Branca de Donald Trump opinou a favor do bilionário no fim de semana, com seu czar da liberdade de expressão comparando uma possível proibição de X no Reino Unido à Rússia de Vladimir Putin.
O líder conservador Kemi Badenoch disse que banir X é “a resposta errada”, enquanto Nigel Farage, do Reform UK, disse temer que o governo acabe “suprimindo a liberdade de expressão”.
