X para impedir que Grok AI tire a roupa de imagens de pessoas reais após reação negativa

O modelo de IA de Elon Musk, Grok, não será mais capaz de editar fotos de pessoas reais para mostrá-las em roupas reveladoras em jurisdições onde isso é ilegal, após preocupação generalizada com deepfakes sexualizados de IA.

“Implementamos medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis.

“Esta restrição se aplica a todos os usuários, incluindo assinantes pagos”, diz um anúncio no X, que opera a ferramenta Grok AI.

A mudança foi anunciada horas depois que o principal promotor da Califórnia disse que o estado estava investigando a disseminação de deepfakes sexualizados de IA, inclusive de crianças, gerados pelo modelo de IA.

“Agora bloqueamos geograficamente a capacidade de todos os usuários gerarem imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde isso é ilegal”, X disse em um comunicado na quarta-feira.

Também reiterou que apenas usuários pagos poderão editar imagens usando Grok em sua plataforma.

Isto adicionará uma camada additional de proteção, ajudando a garantir que aqueles que tentam abusar de Grok para violar a lei ou as políticas de X sejam responsabilizados, de acordo com o comunicado.

Com as configurações NSFW (não seguras para o trabalho) habilitadas, Grok deve permitir “nudez da parte superior do corpo de humanos adultos imaginários (não reais)” consistente com o que pode ser visto em filmes censurados, escreveu Musk on-line na quarta-feira.

“Esse é o padrão de fato na América. Isso irá variar em outras regiões de acordo com as leis de país para país”, disse o multibilionário da tecnologia.

Musk já havia defendido X, postando que os críticos “só querem suprimir a liberdade de expressão”, juntamente com duas imagens geradas por IA do primeiro-ministro do Reino Unido, Sir Keir Starmer, de biquíni.

Nos últimos dias, líderes de todo o mundo criticaram o recurso de edição de imagens do Grok.

No fim de semana, a Malásia e a Indonésia se tornaram os primeiros países a proibir a ferramenta Grok AI depois que os usuários disseram que as fotos foram alteradas para criar imagens explícitas sem consentimento.

O regulador de mídia britânico, Ofcom, disse na segunda-feira que investigaria se X não cumpriu a lei do Reino Unido sobre as imagens sexuais.

Sir Keir alertou que X poderia perder o “direito à auto-regulação” em meio a uma reação negativa sobre as imagens de IA, mas no closing da semana disse que acolheu com satisfação relatos de que X estava tomando medidas para resolver o problema.

Alguns parlamentares do Reino Unido também deixaram a plataforma de mídia social X após os protestos.

O procurador-geral da Califórnia, Rob Bonta, disse na quarta-feira: “Este materials, que retrata mulheres e crianças em situações nuas e sexualmente explícitas, tem sido usado para assediar pessoas na Web”.

A pesquisadora de políticas Riana Pfefferkorn disse estar surpresa por X ter demorado tanto para implantar as novas proteções Grok e que os recursos de edição deveriam ter sido removidos assim que o abuso começou.

Permanecem dúvidas sobre como X aplicará suas novas políticas, como como o modelo de IA saberá se uma imagem é de uma pessoa actual e quais ações serão tomadas quando os usuários violarem as regras, disse Pfefferkorn.

Musk também não apresentou a empresa de maneira séria, disse ela, acrescentando que ajudaria se ele parasse de “fazer coisas como republicar uma imagem de IA de Keir Starmer de biquíni”.

Reportagem adicional de Katy Bailes