Elon Musk foi instruído a tomar medidas urgentes para impedir que a ferramenta Grok AI do X gere imagens indecentes e falsas de crianças e mulheres.
A secretária de Tecnologia, Liz Kendall, disse que o bilionário da tecnologia dos EUA deve intervir depois que casos de uso do sistema para criar imagens sexualizadas de pessoas reais foram destacados nos últimos dias.
O regulador Ofcom já pediu a X e xAI que definissem as medidas que está tomando para cumprir as obrigações legais para proteger os usuários da plataforma de mídia social no Reino Unido.
Mas a intervenção do ministro ameaça abrir uma nova frente na guerra entre o governo do Reino Unido e Musk, que já atacou as medidas britânicas para regulamentar as redes sociais.
“O que temos visto on-line nos últimos dias tem sido absolutamente terrível e inaceitável numa sociedade decente”, disse Kendall esta tarde.
“Ninguém deveria passar pela provação de ver deepfakes íntimos de si mesmo on-line.
«Não podemos e não permitiremos a proliferação destas imagens humilhantes e degradantes, que se destinam desproporcionalmente às mulheres e às raparigas.
‘X precisa lidar com isso urgentemente. É absolutamente certo que o Ofcom esteja analisando isso com urgência e tem todo o meu apoio para tomar qualquer ação coerciva que considere necessária.
Ofcom ‘contatou urgentemente’ X e xAI sobre as imagens sexualizadas de crianças, o que Grok admitiu em uma postagem na plataforma de mídia social
De acordo com a Lei de Segurança On-line do Reino Unido, as empresas de redes sociais devem prevenir e remover materials de abuso sexual infantil quando tomarem conhecimento disso.
A lei também proíbe o uso de IA para gerar imagens pornográficas, também conhecidas como deepfakes, de pessoas sem o seu consentimento.
Mas os usuários do X destacaram casos nos últimos dias em que imagens inocentes de mulheres e atrizes infantis foram manipuladas por Grok após solicitações dos usuários para alterar ou remover roupas digitalmente.
A Ofcom fez um “contato urgente” com a plataforma de mídia social X de Elon Musk após sérias preocupações de que sua ferramenta de IA Grok pudesse gerar “imagens sexualizadas de crianças”.
Uma postagem na conta Grok X admitiu isso, dizendo: ‘casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores com roupas mínimas’
Acrescentou: ‘xAI tem salvaguardas, mas estão em andamento melhorias para bloquear totalmente tais solicitações.’
Ofcom contatou X urgentemente para ver o que essas melhorias poderiam significar e como X e xAI protegerão os usuários da plataforma de mídia social no Reino Unido, mas ainda não abriram uma investigação.
Um porta-voz do regulador disse: “Combater os danos ilegais on-line e proteger as crianças continuam a ser prioridades urgentes para o Ofcom.
“Estamos cientes das sérias preocupações levantadas sobre um recurso no Grok on X que produz imagens de pessoas nuas e imagens sexualizadas de crianças.
‘Fizemos contato urgente com X e xAI para entender quais medidas eles tomaram para cumprir seus deveres legais de proteção aos usuários no Reino Unido.
‘Com base na resposta deles, realizaremos uma avaliação rápida para determinar se existem possíveis problemas de conformidade que justifiquem investigação.’
Quando solicitado a comentar sobre as imagens sexualizadas de crianças na plataforma, o xAI respondeu com um e-mail gerado automaticamente dizendo “mentiras da mídia legada”.
Elon Musk parece estar ciente da tecnologia usada para despir as pessoas, pois postou uma foto gerada de si mesmo de biquíni.
A postagem authentic parece ter sido excluída, mas ele postou novamente a resposta de outro usuário com emojis risonhos.
O executivo-chefe da Web Watch Basis, Kerry Smith, disse: ‘A IWF recebeu uma série de relatórios do público relacionados a imagens suspeitas de abuso sexual infantil no X geradas pelo chatbot de IA Grok.
“Ainda estamos a trabalhar nestes relatórios, mas, até agora, não vimos nenhuma imagem que ultrapasse o limite authorized para ser considerada abuso sexual infantil no Reino Unido.”
Elon Musk parece estar ciente da tecnologia usada para despir as pessoas depois de postar uma foto sua de biquíni com emojis risonhos
Ela instou o governo a exigir que as empresas de IA incluam medidas de segurança nos seus produtos para prevenir conteúdos nocivos.
Um porta-voz do Ministério do Inside disse: “Estamos legislando para proibir ferramentas de nudificação em todas as suas formas, incluindo o uso de modelos de IA para este fim.
«O abuso da imagem íntima é um crime devastador que afecta desproporcionalmente mulheres e raparigas.
“No âmbito deste novo crime, quaisquer indivíduos ou empresas que concebam ou forneçam estas ferramentas de nudificação enfrentarão uma pena de prisão e multas substanciais.”
