Elon Musk e o logotipo xAI.
Vicente Feuray | Afp | Imagens Getty
O X de Elon Musk está sendo investigado por autoridades na Europa, Índia e Malásia depois que seu chatbot Grok permitiu que usuários criassem e compartilhassem imagens sexualizadas de crianças e mulheres geradas por IA.
O órgão fiscalizador da mídia britânica, Ofcom, também disse são solicitadas informações ao X, que é propriedade da xAI, sobre os problemas do Grok. E no domingo, uma deputada do parlamento brasileiro disse nas redes sociais que pediu ao Ministério Público Federal e à autoridade de proteção de dados do país que suspendessem o uso do Grok até que uma investigação fosse concluída.
As investigações seguem um aumento international nas últimas semanas no uso do Grok para criar e compartilhar imagens íntimas não consensuais, ou NCII, derivadas de fotos ou vídeos de pessoas reais em resposta às solicitações dos usuários. As imagens preocupantes foram amplamente compartilhadas no X.
A empresa de Musk atualizou recentemente seus recursos Grok Think about, permitindo a geração mais fácil de imagens a partir de prompts baseados em texto na plataforma.
Enquanto especialistas em segurança e críticos de tecnologia condenavam a proliferação de imagens e clipes exploradores no X, Musk parecia zombar da situação compartilhando uma série de imagens geradas por Grok, incluindo uma que se retratava de biquíni, pontuada por emojis de riso e choro.
Em um conferência de imprensa na segunda-feira, o porta-voz da Comissão Europeia, Thomas Regnier, disse que a autoridade estava “analisando muito seriamente este assunto” e estava “bem ciente” de que X e Grok estavam “agora oferecendo um modo picante mostrando conteúdo sexual explícito com alguma saída gerada com imagens infantis”.
“Isso não é ‘picante'”, disse Regnier. “Isto é ilegal. Isto é terrível. Isto é nojento. É assim que vemos as coisas e isto não tem lugar na Europa.”
No ultimate da semana passada, o Ministério de Eletrônica e Tecnologia da Informação da Índia ordenou que X conduzisse uma “revisão técnica, processual e de governança abrangente” de Grok. A empresa teve até 5 de janeiro para cumprir.
A Comissão de Comunicações e Multimídia da Malásia disse no fim de semana que está investigando X e chamará representantes da empresa.
“O MCMC insta todas as plataformas acessíveis na Malásia a implementarem salvaguardas alinhadas com as leis malaias e os padrões de segurança on-line, especialmente em relação aos seus recursos alimentados por IA, chatbots e ferramentas de manipulação de imagens”, disse o grupo em comunicado.
Entretanto, nos EUA, o Centro Nacional de Exploração Sexual (NCOSE) apelou ao Departamento de Justiça e à Comissão Federal de Comércio para investigar o assunto numa entrevista à CNBC. Dani Pinter, diretor jurídico e diretor do Centro Jurídico da NCOSE, disse que “não há muita precedência authorized para essas questões específicas”.
No entanto, ela disse que as leis federais proíbem a criação e distribuição de materiais de abuso sexual infantil, ou CSAM, e isso pode ser aplicado a conteúdo criado virtualmente “quando retrata uma criança identificável ou retrata uma criança envolvida em conduta sexualmente explícita”.
Essas leis incluem a Lei Take It Down, que foi endossada pela primeira-dama Melania Trump antes de ser promulgada no ano passado.
O DOJ não respondeu a um pedido de comentário. A FTC se recusou a comentar. XAI não forneceu nenhum comentário além de uma resposta automática.
A empresa de mídia social de Musk fez sua primeira declaração pública sobre o assunto no sábado, em uma postagem na conta oficial da X Security.
“Tomamos medidas contra o conteúdo ilegal no X, incluindo materials de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais conforme necessário”, escreveu a empresa.
Musk escreveu, em um postagem separada no X, “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal.”
No dia seguinte, um funcionário da xAI chamado Ethan He escreveu em uma postagem no X que Grok Think about foi atualizado, mas ele não especificou nenhuma alteração em relação à capacidade de criar imagens explícitas prejudiciais.
Musk e X têm um histórico de permitir que usuários que criaram postagens mostrando exploração sexual infantil permanecessem na plataforma.
Em 2023, X suspendeu brevemente e depois restabeleceu a conta de um usuário chamado Dom Lucre depois que ele postou “fotos de exploração infantil associadas à condenação felony de um australiano nas Filipinas”. Mashável relatado. Musk disse na época que X decidiu deletar as postagens ofensivas de Lucre, mas reintegrar o influenciador de direita na plataforma. Lucre atualmente tem uma conta monetizada no X com 1,6 milhão de seguidores listados.
Tom Quisel, CEO da Musubi AI, que ajuda redes sociais e empresas de IA a automatizar a moderação de conteúdo usando IA, disse que parecia que o xAI não conseguiu construir nem mesmo “camadas de confiança e segurança de nível básico” na implementação do Grok Think about to X.
Quisel disse que seria fácil para uma empresa como a xAI fazer com que seu modelo detectasse e bloqueasse “uma imagem envolvendo crianças ou nudez parcial” ou rejeitasse as solicitações dos usuários para colocar o sujeito de uma foto em roupas sexualmente sugestivas.
A controvérsia não fez nada para prejudicar o tráfego de X.
De acordo com a Apptopia, que acompanha as tendências de aplicativos móveis, os downloads diários do Grok aumentaram 54% desde 2 de janeiro, enquanto os downloads diários do X aumentaram 25% nos últimos três dias.
ASSISTIR: Elon Musk critica UE após multa de X
