O governo do Reino Unido afirma que a plataforma X de Elon Musk, que limita as edições de imagens da Grok AI a usuários pagos, é um “insulto” às vítimas de misoginia e violência sexual.
Falando na sexta-feira, Downing Road disse que a medida “simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium”.
Isso ocorre após uma reação significativa depois que o chatbot atendeu aos pedidos dos usuários para alterar digitalmente imagens de outras pessoas, despindo-as sem o seu consentimento – algo que Grok agora diz às pessoas que elas só podem fazer pagando uma taxa mensal.
Mas o porta-voz oficial do primeiro-ministro disse aos repórteres na sexta-feira que mostrou que X – que ainda não comentou – “pode agir rapidamente quando quiser”.
O primeiro-ministro foi “absolutamente claro que X precisa agir e precisa agir agora”, disse seu porta-voz.
“É hora de X abordar esta questão, se outra empresa de mídia tivesse open air nos centros das cidades mostrando imagens ilegais, agiria imediatamente para retirá-los ou enfrentaria reação pública”, acrescentaram.
A BBC abordou X para comentar.
Aqueles que não assinam ainda podem usar o Grok para editar imagens em seu aplicativo e web site separados.
Downing Road também reiterou o “whole apoio” do governo à regulador Ofcom usará todos os seus poderes – até e incluindo um banimento efetivo – contra X devido a preocupações sobre imagens ilegais de IA criadas no web site.
Respondendo às preocupações de que imagens sexualizadas de adultos e crianças tenham sido geradas por Grok, o primeiro-ministro Sir Keir Starmer disse que period “vergonhoso” e “nojento”.
“É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa”, disse ele em entrevista à rádio Biggest Hits na quinta-feira.
Os poderes do Ofcom sob o Lei de Segurança Online incluem a possibilidade de solicitar uma ordem judicial para impedir que terceiros ajudem a plataforma de propriedade de Elon Musk a arrecadar dinheiro ou ser acessada no Reino Unido.
A BBC entrou em contato com o regulador para comentar.
“Musk atirou os seus brinquedos para fora do carrinho em protesto por ter sido responsabilizado pelo tsunami de abusos”, disse a professora Clare McGlynn, especialista na regulamentação authorized da pornografia, violência sexual e abuso on-line.
“Em vez de tomar medidas responsáveis para garantir que o Grok não pudesse ser usado para fins abusivos, retirou o acesso à grande maioria dos utilizadores.”
E Hannah Swirsky, chefe de política da Web Watch Basis, disse que isso “não desfaz o dano que foi causado”.
“Não acreditamos que seja suficiente simplesmente limitar o acesso a uma ferramenta que nunca deveria ter tido a capacidade de criar o tipo de imagens que vimos nos últimos dias”, disse ela.
A caridade dito anteriormente seus analistas descobriram “imagens criminosas” de meninas com idades entre 11 e 13 anos que “pareciam ter sido criadas” usando Grok.
“Sentar e esperar que produtos inseguros sejam abusados antes de agir é inaceitável”, disse Swirsky.
Grok é uma ferramenta gratuita que os usuários podem marcar diretamente nas postagens ou respostas nas postagens de outros usuários para solicitar uma resposta específica.
Mas o recurso também permitiu que as pessoas solicitassem a edição de imagens – e pedissem que tirasse digitalmente a maior parte de suas roupas.
Grok atendeu a muitos pedidos de usuários pedindo para editar imagens de mulheres para mostrá-las de biquíni ou com pouca roupa – algo que aqueles sujeitos a tais pedidos disseram à BBC os deixou sentindo “humilhado” e “desumanizado“.
No entanto, na manhã de sexta-feira, Grok disse aos usuários que solicitavam a alteração das imagens enviadas para o X que “a geração e edição de imagens estão atualmente limitadas a assinantes pagantes”.
Ele acrescenta que os usuários “podem se inscrever para desbloquear esses recursos”.
Algumas postagens na plataforma vistas pela BBC Information sugerem que apenas aqueles com uma marca azul “verificado” – exclusivo para o nível de assinante pago de X – conseguiram solicitar edições de imagem para Grok com sucesso.
A doutora Daisy Dixon, professora de filosofia na Universidade de Cardiff e usuária do X, que disse ter visto um aumento no número de pessoas que usam Grok para despi-la, saudou a mudança, mas disse que parecia “como um esparadrapo”.
“Grok precisa ser totalmente redesenhado e ter proteções éticas integradas para evitar que isso aconteça novamente”, disse ela à BBC.
“Elon Musk também precisa de reconhecer isto pelo que realmente é – mais um exemplo de violação baseada no género.”
Prof McGlynn disse que o movimento de X ecoou sua abordagem para deepfakes pornográficos de Taylor Swift na plataforma no ano passado – onde bloqueou pesquisas por materials sexualizado gerado pela popstar usando um recurso de vídeo Grok AI.
“Ele está fazendo isso para alimentar argumentos sobre liberdade de expressão”, acrescentou ela.
“Ele alegará que a regulamentação está sufocando o uso desta tecnologia pelas pessoas. Mas tudo o que a regulamentação exige é que ele tome as precauções necessárias para reduzir os danos”.
