A Indonésia suspendeu o chatbot Grok de IA de Elon Musk no sábado devido às crescentes preocupações sobre fotos sexualizadas de pessoas geradas por IA sem seu consentimento.
A plataforma de Elon Musk está enfrentando uma reação world depois que surgiram relatos de que seu recurso de criação de imagens permitia aos usuários sexualizar fotos de mulheres e crianças usando instruções de texto simples.
A CBS Information verificou que Grok atendeu às solicitações dos usuários solicitando a edição de imagens de mulheres para mostrá-las de biquíni ou com pouca roupa, incluindo figuras públicas proeminentes como primeira-dama Melania Trump.
A Indonésia é o primeiro país a negar todo o acesso à ferramenta, que foi restrita a assinantes pagantes em outros lugares após a reação negativa.
“Para proteger as mulheres, as crianças e o público dos riscos de conteúdo pornográfico falso gerado através da tecnologia de inteligência synthetic, o governo bloqueou temporariamente o acesso à aplicação Grok”, disse o ministro das Comunicações e Assuntos Digitais, Meutya Hafid, num comunicado. “O governo vê as práticas deepfake não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital.”
De acordo com jornalistas da AFP em Jacarta, a conta Grok X ainda estava ativa e respondendo a perguntas, inclusive em Bahasa, na Indonésia, na noite de sábado.
A startup xAI, de propriedade de Musk, que desenvolveu Grok, disse à CBS Information em um comunicado no sábado que “Legacy Media Lies”, sem dar mais detalhes. A mensagem parece ser uma resposta automática às perguntas dos meios de comunicação.
Autoridades europeias e ativistas de tecnologia criticaram a medida de limitar os recursos do Grok a assinantes pagantes, dizendo que ela não abordou as preocupações sobre conteúdo deepfake sexualmente explícito.
O primeiro-ministro do Reino Unido, Keir Starmer, disse quinta-feira que deseja “todas as opções na mesa” incluindo uma possível proibição de Grok na Grã-Bretanha.
“Isso é vergonhoso, é nojento e não deve ser tolerado. X precisa controlar isso”, disse Starmer em entrevista a uma estação de rádio do Reino Unido. “É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa.”
Uma fonte do escritório de Starmer reiterou à CBS Information na sexta-feira que “nada está fora de questão” quando se trata de regulamentar X na Grã-Bretanha.
Nos EUA, o senador republicano Ted Cruz disse em uma postagem no X que “muitas das postagens recentes geradas por IA são inaceitáveis e uma clara violação da minha legislação – agora lei – a Ato de derrubarbem como os termos e condições de X.”
“Estas imagens ilegais representam uma séria ameaça à privacidade e dignidade das vítimas. Devem ser retiradas e devem ser colocadas protecções”, disse Cruz, acrescentando que foi encorajado pelas medidas tomadas por X para remover imagens ilegais.
Musk disse na semana passada, em resposta a uma postagem sobre as imagens explícitas, que qualquer pessoa que use Grok para “criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
