A mãe do bebê de Elon Musk, Ashley St Clair, é uma das muitas furiosas com o CEO do X por Grok permitir que os usuários criassem pornografia falsa dela quando tinha 14 anos.
A jovem de 31 anos, que está lutando contra o CEO da Tesla pela custódia de seu filho Romulus, de quase um ano, está se manifestando depois que amigos a alertaram sobre as imagens vis geradas por usuários.
“Descobri que Grok estava me despindo e tirou uma foto minha totalmente vestida, alguém pediu para colocar um biquíni e ele colocou”, disse ela ao Inside Version, acrescentando que uma das fotos period dela com apenas 14 anos.
‘Estas são imagens reais de mim que eles tiraram e me despiram. Eles encontraram uma foto minha quando eu tinha 14 anos e mandaram me despir quando eu tinha 14 anos e me colocar de biquíni”, acrescentou ela.
St Clair, que disse estar ‘enojada e violada’, procurou Grok para tentar remover as imagens nojentas, ela teve resultados mistos.
“Alguns deles sim, alguns deles demoraram 36 horas e alguns deles ainda estão acordados”, disse ela.
St Clair até afirmou em sua própria conta X na quinta-feira que recebeu uma violação dos termos de serviço por reclamar disso.
“Eles removeram meu cheque azul mais rápido do que removeram o conteúdo de pornografia infantil mechahitler + abuso sexual que Grok criou (ainda está ativo, caso você esteja se perguntando como a abordagem de ‘pagar US$ 8 para abusar de mulheres e crianças’ estava funcionando”, escreveu ela.
A mãe do bebê de Elon Musk, Ashley St Clair (foto), é uma das muitas furiosas com o CEO do X por Grok permitir que os usuários criassem pornografia falsa dela quando tinha 14 anos
A jovem de 31 anos, que está lutando contra o CEO da Tesla (foto) pela custódia de seu filho Romulus, de quase um ano, está se manifestando depois que amigos a alertaram sobre as imagens vis geradas por usuários
St Clair afirma que Musk está “consciente do problema” e que “isso não estaria acontecendo” se ele quisesse que parasse.
Quando questionada por que ele não interrompeu a pornografia infantil, ela disse: ‘Essa é uma ótima pergunta que as pessoas deveriam fazer a ele.’
Por sua conta, ela continuou a criticar o homem mais rico do mundo, escrevendo que “estou começando a pensar que os US$ 44 bilhões” que Musk gastou para comprar X “não foram pela liberdade de expressão”.
X não respondeu ao pedido de comentário do Every day Mail, mas anunciou na sexta-feira que apenas assinantes pagos podem usar o Grok – o que significa que seu nome e informações de pagamento devem estar arquivados.
Uma organização de segurança na Web disse que os seus analistas confirmaram a existência de “imagens criminosas de crianças com idades entre os 11 e os 13 anos que parecem ter sido criadas utilizando a ferramenta (Grok)”.
O chatbot, que é acessado através da plataforma de mídia social X de Musk, tem atendido nas últimas semanas uma onda do que os pesquisadores dizem serem solicitações maliciosas de usuários para modificar imagens, incluindo colocar mulheres de biquíni ou em posições sexualmente explícitas.
Os pesquisadores alertaram que, em alguns casos, algumas imagens pareciam representar crianças. Governos de todo o mundo condenaram a plataforma e abriram investigações.
Na sexta-feira, Grok respondeu aos pedidos de alteração de imagens com a mensagem: “A geração e edição de imagens estão atualmente limitadas a assinantes pagantes. Você pode se inscrever para desbloquear esses recursos.’
‘Descobri que Grok estava me despindo e tirou uma foto minha totalmente vestida, alguém pediu para colocar um biquíni’, disse St Clair, acrescentando que uma das fotos period dela com apenas 14 anos.
Embora os números de assinantes do Grok não estejam disponíveis publicamente, houve um declínio notável na sexta-feira no número de deepfakes explícitos que o Grok está gerando agora em comparação com apenas alguns dias antes.
Grok ainda estava atendendo solicitações de imagens, mas apenas de usuários X com marcas de seleção azuis dadas a assinantes premium que pagam US$ 8 por mês por recursos, incluindo limites de uso mais altos para o chatbot.
A Related Press confirmou na tarde de sexta-feira que a ferramenta de edição de imagens ainda estava disponível para usuários gratuitos no website e aplicativo independente do Grok.
As restrições para utilizadores, exceto para assinantes pagantes, não pareceram mudar as opiniões dos líderes ou reguladores na Europa.
‘Isso não muda nossa questão elementary. Assinatura paga ou não paga, não queremos ver essas imagens. É simples assim”, disse Thomas Regnier, porta-voz da Comissão Executiva da União Europeia.
A Comissão já havia criticado Grok por comportamento “ilegal” e “terrível”.
St Clair afirma que Musk está ‘consciente do problema’ e que ‘isso não estaria acontecendo’ se ele quisesse que parasse
Grok é gratuito para usuários X, que podem fazer perguntas na plataforma de mídia social. Eles podem marcá-lo em postagens que criaram diretamente ou em respostas a postagens de outros usuários.
O recurso foi lançado em 2023. No verão passado, a empresa adicionou um recurso gerador de imagens, Grok Think about, que incluía um chamado ‘modo picante’ que pode gerar conteúdo adulto.
O problema é amplificado porque Musk apresenta o seu chatbot como uma alternativa mais ousada aos rivais com mais salvaguardas, e porque as imagens de Grok são visíveis publicamente e, portanto, podem ser facilmente divulgadas.
Musk já havia insistido que “qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”.
X disse que toma medidas contra conteúdo ilegal, incluindo materials de abuso sexual infantil, “removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário”.
