A Indonésia bloqueou temporariamente o chatbot Grok de Elon Musk no sábado devido ao risco de conteúdo pornográfico gerado por IA, tornando-se o primeiro país a negar acesso à ferramenta de IA.
A medida surge depois de governos, investigadores e reguladores da Europa à Ásia terem condenado e alguns terem aberto inquéritos sobre o conteúdo sexualizado na aplicação.
xAI, a startup por trás do Grok, disse na quinta-feira que estava restringindo a geração e edição de imagens a assinantes pagantes, enquanto tentava corrigir lapsos de salvaguarda que permitiam produções sexualizadas, incluindo representações de crianças seminuas.
“O governo vê a prática de deepfakes sexuais não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse o ministro das comunicações e digital, Meutya Hafid, num comunicado.
O ministério também convocou funcionários do X para discutir o assunto.
Musk disse no X que qualquer pessoa que usasse o Grok para criar conteúdo ilegal sofreria as mesmas consequências como se tivesse carregado conteúdo ilegal.
xAI respondeu ao e-mail da Reuters solicitando comentários com o que parecia ser uma resposta automática: “Legacy Media Lies”. X não respondeu imediatamente a um pedido de comentário.
A Indonésia, com a maior população muçulmana do mundo, tem regras rígidas que proíbem a partilha on-line de conteúdos considerados obscenos.
O bloqueio da Indonésia ocorre após Grok ter desligado sua função de criação de imagens na sexta-feira para a grande maioria dos usuários, após protestos generalizados sobre seu uso para criar imagens sexualmente explícitas e violentas.
Musk também foi ameaçado com multas, ações regulatórias e relatórios sobre uma possível proibição do X no Reino Unido.
A ferramenta também tem sido usada para manipular imagens de mulheres para tirar a roupa e colocá-las em posições sexualizadas. A função para fazer isso foi desativada, exceto para assinantes pagantes.
O primeiro-ministro australiano, Anthony Albanese, também expressou preocupação com o uso de inteligência synthetic no chatbot Grok para permitir conteúdo sexual exploratório.
O primeiro-ministro juntou-se no sábado a uma lista crescente de líderes internacionais, incluindo o homólogo britânico Keir Starmer, ao criticar a plataforma de mídia social.
“O uso de IA generativa para explorar ou sexualizar pessoas sem o seu consentimento é abominável”, disse ele aos jornalistas em Canberra.
“O fato de essa ferramenta ter sido usada para que as pessoas usassem sua função de criação de imagens por meio do Grok é, eu acho, completamente abominável.
“É, mais uma vez, um exemplo de que a mídia social não mostra responsabilidade social e os australianos e, de fato, os cidadãos globais merecem coisa melhor.”
Embora o número de relatórios recebidos pelo eSafety Workplace da Austrália permaneça pequeno, este afirma que houve um aumento recente relacionado com o uso de Grok para criar imagens sexualizadas ou de exploração.
O órgão de vigilância alertou na sexta-feira que usaria seus poderes, incluindo avisos de remoção quando tal materials atendesse aos limites definidos na Lei de Segurança On-line.
“X, Grok e uma ampla gama de outros serviços também estão sujeitos a obrigações sistêmicas de segurança para detectar e remover materials de exploração sexual infantil e outros materiais ilegais como parte do programa líder mundial da Austrália. códigos e padrões da indústria”, dizia.
Com Reuters e AAP
