Uma coalizão de quase 30 grupos de defesa está pedindo ao Google e à Apple que removam o acesso à plataforma de mídia social X e seu aplicativo de IA, Grok, de suas lojas de aplicativos depois que Grok permitiu que usuários gerassem conteúdo sexualizado. imagens de menores e mulheres.
As organizações, que se concentram na segurança infantil, nos direitos das mulheres e na privacidade, expressaram as suas preocupações em cartas na quarta-feira ao CEO da Apple, Tim Prepare dinner, e ao CEO do Google, Sundar Pichai, alegando que o conteúdo de Grok viola as políticas das empresas de tecnologia.
“Exigimos que a liderança do Google remova urgentemente Grok e X da Play Retailer para evitar mais abusos e atividades criminosas”, disseram os grupos, usando a mesma linguagem em sua carta à Apple.
A Apple e o Google não responderam imediatamente a um pedido de comentário.
Na quinta-feira, a xAI, empresa que desenvolveu o Grok, disse em um comunicado de segurança atualizar postou no X que agora iria “bloquear geograficamente” os usuários de gerar “imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde é ilegal”.
Afirmou também que a ferramenta de criação de imagens estará disponível apenas para assinantes pagos.
“Implementamos medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”, afirmou a empresa. “Esta restrição se aplica a todos os usuários, incluindo assinantes pagos.”
Na quarta-feira, Elon Musk, dono do X e do xAI, disse em um publicar que ele “não tem conhecimento das imagens de menores nus geradas por Grok. Literalmente zero”. Ele também disse que o chatbot recusa solicitações para gerar imagens ilegais.
“Pode haver momentos em que a invasão adversária dos prompts do Grok faça algo inesperado. Se isso acontecer, corrigimos o bug imediatamente”, escreveu ele.
Reação grok
As críticas a Grok aumentaram no início de janeiro, depois que o aplicativo de IA generativa permitiu aos usuários criar imagens de menores vestindo roupas mínimas. Em resposta a uma solicitação do usuário, a Grok reconheceu falhas em suas proteções digitais.
Copyleaks, uma ferramenta de plágio e detecção de conteúdo de IA, disse à CBS Information no início deste mês que detectou milhares de imagens sexualmente explícitas criadas por Grok. Em um dezembro análiseo grupo estimou que o chatbot estava criando “aproximadamente uma imagem sexualizada não consensual por minuto”.
A Web Watch Basis (IWF), que busca eliminar o abuso sexual infantil na Web, também levantou preocupações sobre o Grok e outras ferramentas de IA.
“Estamos extremamente preocupados com a facilidade e rapidez com que as pessoas podem aparentemente gerar materials fotorrealista de abuso sexual infantil”. Ngaire Alexander, chefe da linha direta da IWF, disse à CBS Information em comunicado na semana passada. “Ferramentas como Grok agora correm o risco de trazer imagens sexuais de crianças de IA para o mainstream.”
Califórnia abre investigação
Grok também está atraindo o escrutínio de legisladores e autoridades dos EUA no exterior. Na quarta-feira, o procurador-geral da Califórnia, Rob Bonta anunciado ele estava abrindo uma investigação sobre o materials sexualmente explícito produzido com Grok.
“A avalanche de relatórios detalhando o materials não consensual e sexualmente explícito que a xAI produziu e publicou on-line nas últimas semanas é chocante”, disse Bonta. “Este materials, que retrata mulheres e crianças em situações de nudez e sexualmente explícitas, tem sido usado para assediar pessoas na Web. Peço à xAI que tome medidas imediatas para garantir que isto não vá mais longe.”
O primeiro-ministro do Reino Unido, Keir Starmer, levantou na semana passada a possibilidade de banir Xque usa Grok, na Grã-Bretanha, na geração de imagens sexualizadas de pessoas pela ferramenta de IA sem o seu consentimento.
A Comissão Europeia também está a monitorizar as medidas que X está a tomar para evitar que Grok gere imagens inadequadas de crianças e mulheres, Reuters relatado quarta-feira.
