A Malásia tornou-se o segundo país a bloquear temporariamente o acesso ao Grok de Elon Musk, após protestos globais sobre a ferramenta de IA e a sua capacidade de produzir imagens falsas e sexualizadas.
A Malásia disse que restringiria o acesso a Grok até que salvaguardas eficazes fossem implementadas, um dia depois de medidas semelhantes terem sido tomadas pela Indonésia.
Vários governos e reguladores tomaram medidas contra a ferramenta de imagem de Grok, que está incorporada no website de mídia social X e provocou indignação, pois permite que os usuários manipulem imagens de mulheres e crianças para tirar suas roupas e colocá-las em posições sexuais.
A empresa liderada por Musk que desenvolveu o Grok, xAI, disse na semana passada que a capacidade de gerar e editar imagens seria “limitada a assinantes pagantes” no X. Esses usuários forneceram dados pessoais à empresa e podem ser identificados se a função for mal utilizada.
A medida, no entanto, pouco fez para acalmar a raiva em relação a Grok. A Comissão de Comunicações e Multimídia da Malásia (MCMC) disse no domingo que restringiria o acesso ao Grok devido à capacidade da ferramenta de IA “de gerar imagens manipuladas obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores”.
Grok também funciona por meio de um website e aplicativo separados. Não ficou claro se as proibições da Malásia e da Indonésia se aplicavam ao Grok no X, ao website e aplicativo Grok, ou a ambos. O Guardian recebeu relatos da Indonésia de que as pessoas ainda conseguiam usar o Grok por meio do aplicativo e do X, embora um deles tenha relatado que o aplicativo period muito lento.
MCMC disse que emitiu avisos para X e xAI este mês para exigir a implementação de salvaguardas técnicas e de moderação eficazes. No entanto, as respostas recebidas basearam-se principalmente em mecanismos de denúncia iniciados pelos utilizadores e não abordaram os riscos inerentes colocados pela Grok, disse o MCMC, acrescentando que considerava isto insuficiente para prevenir danos ou garantir a conformidade authorized.
No sábado, a Indonésia também bloqueou temporariamente o chatbot, com o ministro das comunicações e digital do país, Meutya Hafid, dizendo que o governo through “a prática de deepfakes sexuais não consensuais como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”.
O Reino Unido também levantou a possibilidade de uma proibição se não forem tomadas medidas, enquanto no sábado o primeiro-ministro da Austrália, Anthony Albanese, condenou o uso de IA generativa para explorar ou sexualizar pessoas sem o seu consentimento como “abominável”.
Em toda a Europa, reguladores e políticos também emitiram alertas nas últimas semanas.
O ministro da Cultura e da Comunicação Social da Alemanha, Wolfram Weimer, apelou à Comissão Europeia para que tomasse medidas legais, alertando para a “industrialização do assédio sexual”.
A autoridade italiana de protecção de dados afirmou que a utilização de ferramentas de IA para criar imagens explícitas de pessoas sem consentimento pode constituir graves violações de privacidade e, em alguns casos, infracções penais.
Na França, os ministros do governo disseram este mês que encaminharam conteúdo sexualmente explícito gerado por Grok que circulava no X aos promotores e alertaram o regulador de mídia francês, Arcom.
O Ministério de TI e Eletrônica da Índia enviou uma notificação formal a X em 2 de janeiro em relação a imagens explícitas supostamente criadas através de Grok, exigindo que o conteúdo fosse removido e exigindo um relatório sobre as ações tomadas dentro de 72 horas.
