Elon Musk Groko chatbot desenvolvido por sua empresa xAI, reconheceu “lacunas nas salvaguardas” na plataforma de IA que permitia aos usuários gerar fotos sexualizadas e alteradas digitalmente de menores.
A admissão ocorre depois que vários usuários alegaram nas redes sociais que pessoas estão usando o Grok para gerar imagens sugestivas de menores, em alguns casos tirando-lhes as roupas que usavam nas fotos originais.
Em um publicar na sexta-feira, respondendo a uma pessoa no web site de mídia social X, de propriedade de Musk, Grok afirmou que estava “consertando urgentemente” as falhas em seu sistema. Grok também incluiu um hyperlink para o CyberTipline, um web site onde as pessoas podem denunciar a exploração sexual infantil.
“Há casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores com roupas mínimas, como o exemplo que você mencionou”, disse Grok em um comunicado separado. publicar em X na quinta-feira. “xAI tem salvaguardas, mas melhorias estão em andamento para bloquear totalmente tais solicitações.”
Em outra postagem nas redes sociais, uma usuária postou fotos dela lado a lado usando um vestido e outra que parece ser uma versão alterada digitalmente da mesma foto dela de biquíni. “Como isso não é ilegal?” ela escreveu em X.
Na sexta-feira, autoridades francesas denunciaram o conteúdo sexualmente explícito gerado por Grok aos promotores, referindo-se a ele como “manifestamente ilegal” em um comunicado, segundo a Reuters.
xAI, a empresa que desenvolveu o chatbot AI Grok, disse “Legacy Media Lies” em resposta a um pedido de comentário.
Grok assumiu de forma independente alguma responsabilidade pelo conteúdo. Em um exemplo na semana passada, o chatbot pediu desculpas por gerar uma imagem de IA de duas menores em “trajes sexualizados”, acrescentando que a foto synthetic violava os padrões éticos e potencialmente a lei dos EUA sobre pornografia infantil.
Copyleaks, uma ferramenta de plágio e detecção de conteúdo de IA, disse em um weblog recente publicar que existem muitos exemplos de Grok gerando versões sexualizadas de mulheres.
“Quando os sistemas de IA permitem a manipulação de imagens de pessoas reais sem consentimento claro, o impacto pode ser imediato e profundamente pessoal”, disse Alon Yamin, CEO e cofundador da Copyleaks, no publish.
