Clair, uma influenciadora conservadora e mãe de um dos filhos de Elon Musk, processou a empresa de inteligência synthetic de Musk, xAI, alegando que seu chatbot Grok é “excessivamente perigoso conforme projetado” e permitiu a criação de imagens falsas, não consensuais e sexualmente explícitas, dela, incluindo representações dela quando criança.A ação, movida na quinta-feira no condado de Nova York e posteriormente transferida para o tribunal federal, acusa a xAI de negligência, sofrimento emocional e manutenção de um incômodo público ao permitir que usuários do Grok gerassem imagens alteradas por IA que removem roupas de fotos de pessoas reais. Clair também está buscando uma ordem de restrição temporária para impedir Grok de produzir imagens que a despim, informou o Wall Avenue Journal.
De acordo com os documentos judiciais, St. Clair disse à xAI que Grok estava sendo usado para criar imagens dela “como uma criança vestida com um biquíni” e “como uma adulta em poses sexualmente explícitas”. Apesar das garantias da xAI de que suas imagens não seriam alteradas sem consentimento, a empresa supostamente não conseguiu evitar o uso indevido da ferramenta.“Ela vive com medo de que imagens nuas e sexuais dela mesma, inclusive dela quando criança, continuem a ser criadas pela xAI”, afirma um documento, acrescentando que a disseminação contínua de tais imagens a deixou se sentindo insegura em relação a quem as consome.O processo alega que a capacidade de Grok de gerar deepfakes não consensuais representa um defeito de design e que a xAI poderia razoavelmente prever que a ferramenta seria usada para assediar e explorar indivíduos. Também alega que após a reclamação de St. Clair, a xAI retaliou desmonetizando sua conta X.xAI e X não responderam imediatamente aos pedidos de comentários. No mesmo dia em que St. Clair entrou com sua ação, a xAI a processou em um tribunal federal no Texas, alegando que ela violou os termos de serviço da empresa e pedindo indenização superior a US$ 75.000. xAI argumenta que quaisquer ações judiciais devem ser apresentadas nos tribunais do Texas.
Grok enfrenta reação international e escrutínio regulatório
O processo de St. Clair ocorre em meio à crescente reação internacional sobre o papel de Grok na geração de imagens sexualizadas não consensuais, incluindo conteúdo envolvendo menores. Os pesquisadores relataram que Grok produziu milhares dessas imagens por hora no auge da controvérsia, muitas das quais foram compartilhadas publicamente no X.O procurador-geral da Califórnia, Rob Bonta, lançou uma investigação sobre Grok, com o governador Gavin Newsom chamando as ações da xAI de “um terreno fértil para predadores”.Na Europa, a França denunciou X aos procuradores, descrevendo o conteúdo como “manifestamente ilegal”, enquanto o regulador britânico dos meios de comunicação, Ofcom, abriu uma investigação para saber se Grok violou as leis do Reino Unido que protegem os utilizadores de conteúdos ilegais, incluindo abuso de imagens íntimas e materials de abuso sexual infantil.Os governos asiáticos também responderam de forma contundente. A Indonésia e a Malásia bloquearam temporariamente o acesso ao Grok, e o Ministério de TI da Índia emitiu avisos ao X sobre conteúdo obsceno e ilegal gerado por IA. Após pressão das autoridades indianas, X reconheceu lapsos de moderação, removeu quase 3.500 conteúdos e excluiu mais de 600 contas.Desde então, X restringiu os recursos de geração de imagens do Grok a usuários pagantes e disse que take away conteúdo ilegal e suspende permanentemente os infratores.
