Elon Musk observa enquanto o presidente Donald Trump fala no Fórum de Investimentos EUA-Saudita no Centro John F. Kennedy de Artes Cênicas em Washington, 19 de novembro de 2025.
Brendan Smialowski | Afp | Imagens Getty
Três senadores democratas estão apelando Maçã e Google suspender os aplicativos X e Grok de suas lojas, pelo menos até que o proprietário Elon Musk os proíba de permitir que os usuários criem e compartilhem imagens e representações explícitas e não consensuais de abuso sexual infantil.
Em uma carta aberta ao CEO da Apple, Tim Prepare dinner, e ao CEO do Google, Sundar Pichai, na sexta-feira, os senadores Ron Wyden de Oregon, Ed Markey de Massachusetts e Ben Ray Luján do Novo México disseram que os gigantes da tecnologia deveriam “remover imediatamente os aplicativos X e Grok de suas lojas de aplicativos até que o CEO da empresa, Elon Musk, resolva essas atividades perturbadoras e provavelmente ilegais”.
“Fechar os olhos ao comportamento flagrante de X seria uma zombaria de suas práticas de moderação”, escreveram eles, acrescentando que a falha em tomar medidas “minaria suas reivindicações em público e em tribunal de que suas lojas de aplicativos oferecem uma experiência de usuário mais segura do que permitir que os usuários baixem aplicativos diretamente em seus telefones”.
A xAI de Musk, desenvolvedora do Grok e controladora da plataforma de mídia social X, respondeu ao pedido de comentários da CNBC com uma resposta automática. Google e Apple não responderam imediatamente aos pedidos de comentários.
Grok e X têm permitido que os usuários gerem e compartilhem facilmente conteúdo “deepfake” explícito e sexualizado que inclui pessoas que nunca deram permissão para que suas imagens fossem usadas dessa maneira. Grok também tem sido usado para gerar imagens que denigrem as pessoas com base na sua raça ou etnia.
Num exemplo recente, como o The Occasions of London relatado“Uma descendente de sobreviventes do Holocausto foi ‘despojada digitalmente'” por Grok depois que os usuários solicitaram que a ferramenta de IA gerasse uma imagem dela de biquíni do lado de fora de Auschwitz.
As questões suscitaram críticas generalizadas e investigações regulamentares por parte de governos estrangeiros na Europa, Malásia, Austrália e Índia. No entanto, a Comissão Federal de Comércio e o Departamento de Justiça ainda não disseram se irão investigar o xAI.
Sobre 3 de janeiroMusk e X emitiram declarações dizendo que “qualquer pessoa que usar ou incitar Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
A Apple e o Google têm diretrizes rigorosas para desenvolvedores de aplicativos que exigem que eles evitem o add e o compartilhamento de imagens que retratam abuso sexual infantil e outros conteúdos explícitos ou prejudiciais.
Aplicativos de mídia social e mensagens, incluindo Tumblr e Telegrama foram suspensos anteriormente pela loja de aplicativos da Apple por falhas na filtragem de uma variedade de conteúdo impróprio.
Na sexta-feira, X supostamente feito Recursos de geração de imagens Grok AI disponíveis para uso apenas por assinantes pagantes. No entanto, o aplicativo e o website independentes de Grok ainda permitiam que os usuários solicitassem que Grok se despisse, sexualizasse ou degradasse digitalmente pessoas sem primeiro obter consentimento para usar suas fotos ou clipes.
CNN relatou que as recentes atualizações de recursos de Grok e a relativa falta de salvaguardas foram exigidas por Musk. Três funcionários da xAI que trabalhavam na equipe de segurança da empresa anunciaram no X que estavam saindo depois que Musk fez as exigências, disse o relatório.
Em meio à reação, a xAI disse esta semana que levantou uma rodada de financiamento de US$ 20 bilhões de investidores, incluindo Nvidia e Cisco Investments, bem como apoiadores de longa knowledge da empresa Musk, Valor Fairness Companions, Stepstone Group, Constancy, Qatar Funding Authority, MGX de Abu Dhabi e Baron Capital Group.
ASSISTIR: XAI fecha rodada de financiamento de US$ 20 bilhões
