Ashwin diz que se lembra de ter ficado “enojada” quando abriu o X e viu usuários pedindo a Grok para despir deusas hindus.
“Vi homens postando imagens de Parvati e Lakshmi, pedindo a Grok para colocá-las de biquíni”, disse ela à ABC.
A jovem de 26 anos de Delhi, cujo nome foi alterado para proteger sua privacidade, disse que se sentiu “furiosa” e queria falar.
Em uma postagem no X, Ashwin criticou especificamente os homens que usaram o chatbot de IA de Elon Musk para gerar fotos de mulheres sexualizadas e nuas.
“Nenhuma mulher – viva, morta ou mesmo espiritual – está segura”, disse ela na postagem agora excluída.
Uma captura de tela de um usuário X solicitando que Grok despisse as deusas hindus. (X)
“Os homens que fazem isso gostam de violar as mulheres e tirar seu arbítrio”, continuava o submit.
Poucas horas depois de postar, ela se tornou vítima exatamente daquilo que estava tentando conscientizar.
Os usuários do Grok removeram digitalmente suas roupas usando fotos dela e as postaram nos comentários de suas postagens.
“Parecia tão sinistro”, disse ela.
“Porque eu falei sobre isso, eles queriam tirar minha voz e me controlar.”
Ashwin disse que se sentiu “desumanizada” ao ver as imagens e, desesperada para removê-las da web, apagou a postagem.
Grok anuncia novas medidas
Em meio à indignação world, Grok anunciou hoje que implementou medidas para “evitar a edição de imagens de pessoas reais em roupas reveladoras como biquínis”.
“Esta restrição se aplica a todos os usuários, incluindo assinantes pagos”,
disse um comunicado.
Ele também disse que a criação de imagens e a capacidade de editar imagens no Grok estariam disponíveis apenas para assinantes pagos.
“Isso adiciona uma camada additional de proteção, ajudando a garantir que os indivíduos que tentarem abusar da conta Grok para violar a lei ou nossas políticas possam ser responsabilizados.”
As pessoas estão usando o assistente de IA Grok para despir mulheres na plataforma de mídia social X. (gráfico de hack triplo j: Alice Angeloni)
Países de todo o mundo condenaram e até bloquearam Grok, incluindo a Malásia e a Indonésia.
O governo do Reino Unido foi o último a se manifestar e o primeiro-ministro, Sir Keir Starmer, disse que acolheu com satisfação os relatos de que X estava agindo para garantir o complete cumprimento da lei do Reino Unido.
Pouco depois da declaração de Sir Starmer, Musk postou no X que a Grok sempre cumprirá as leis dos países em que opera.
“Quando solicitado a gerar imagens, [Grok] se recusará a produzir qualquer coisa ilegal, já que o princípio operacional da Grok é obedecer às leis de qualquer país ou estado”, disse ele.
Na Austrália é ilegal criar e compartilhar sem consentimento materials explícito feito com IA.
O Comissário de eSafety da Austrália disse que “viu um aumento recente nos relatórios relacionados ao uso de Grok para gerar imagens sexualizadas ou exploradoras” e usaria seus poderes sempre que possível para remover materials.
Elon Musk descreveu anteriormente Grok como o chatbot “anti-despertar”. (Reuters: Gonzalo Fuentes)
Apesar dos movimentos mais recentes de Grok, a ABC viu usuários no Reddit compartilhando dicas sobre como gerar o máximo de imagens pornográficas possíveis, usando instruções específicas.
A ABC contatou a xAI sobre Grok para perguntar se mais salvaguardas seriam implementadas para proteger os usuários e recebeu o que parecia ser uma resposta automática: “Legacy Media Lies”.
Grok não cria conteúdo sexualmente explícito por conta própria
Arghavan Salles, pesquisadora iraniana-americana em igualdade e diversidade de gênero, disse que “não ficou surpresa” com o fato de usuários pedirem a Grok para fazer coisas como despir deusas hindus.
Tendo visto um número substancial de imagens geradas ou editadas com Grok que têm como alvo mulheres em roupas religiosas e culturais, o Dr. Salles disse que o chatbot permitiu “transgressão religiosa”.
“Já vi pessoas pedirem a Grok para tirar os hijabs das mulheres e colocá-las em biquínis”, disse ela.
Arghavan Salles diz que Grok não está criando as imagens sozinho, mas simplesmente fazendo “conforme solicitado”. (Fornecido: Gaia Squarci)
Salles disse acreditar que a proliferação de imagens vistas nas últimas semanas não poderia ter acontecido sem dois elementos.
“Homens ansiosos por violar mulheres e crianças e software program que facilita o seu abuso”,
ela disse.
“Grok não cria essas imagens sozinho. Ele não pensa nem aprende. Ele simplesmente faz o que lhe é pedido.”
Parte de uma história mais longa de violência baseada no género
Nicola Henry, uma acadêmica sócio-jurídica na área de violência baseada em gênero na Universidade RMIT, disse que o que estava acontecendo com Grok se enquadrava em “uma história mais longa de violência e objetificação baseada em gênero”.
“Embora a IA generativa não trigger danos digitais de género, quando estas ferramentas não têm salvaguardas implementadas e são facilmente acessíveis e fáceis de usar, elas reduzem as barreiras de utilização para as pessoas”, disse ela.
Nicola Henry diz que a escala e a velocidade que Grok gera imagens intensificam o impacto nas mulheres. (Fornecido: Nicola Henry)
Dr. Henry disse que period important apontar “a escala, velocidade e realismo das imagens” que Grok estava gerando.
“Isto intensifica o impacto sobre as pessoas visadas, muitas vezes mulheres, incluindo figuras públicas e mulheres oriundas de minorias”, disse ela.
No X e no fórum Grok do Reddit, alguns usuários disseram que a moda de se despir não teria acontecido “se as mulheres não postassem fotos públicas de si mesmas”.
Dr. Henry disse que esta period uma forma de culpar a vítima.
“Isso é como dizer às mulheres que elas não deveriam usar saia curta ou sair à noite”, disse ela.
Ela disse que a questão não period a visibilidade das mulheres, mas sim o uso indevido da tecnologia por aqueles que criam e compartilham o conteúdo.
“Junto com os desenvolvedores que permitem que suas ferramentas sejam mal utilizadas”, disse o Dr. Henry.
“As empresas de IA não deveriam ter permissão para lançar recursos que sejam facilmente reaproveitados para fins abusivos.”
