Jessica Guistolise, Megan Hurley e Molly Kelley conversam com a CNBC em Minneapolis, Minnesota, em 11 de julho de 2025, sobre imagens pornográficas e vídeos pornográficos que representam seus rostos feitos por seu amigo mútuo Ben usando o web site de IA DeepSwap.
Jordan Wyatt | CNBC
No verão de 2024, um grupo de mulheres na área de Minneapolis aprendeu que um amigo usava suas fotos do Fb misturado com inteligência synthetic para criar imagens e vídeos sexualizados.
Usando um web site de IA chamado DeepSwap, o homem criou secretamente os deepfakes dos amigos e mais de 80 mulheres na região de Twin Cities. A descoberta criou um trauma emocional e levou o grupo a procurar a ajuda de um senador do estado simpático.
Como um A investigação da CNBC mostraa ascensão de aplicativos e websites “Nudify” tornou mais fácil do que nunca para as pessoas criarem DeepFakes de DeepFakes não consensuais e explícitos. Especialistas disseram que esses serviços estão em toda a Web, com muitos sendo promovidos por meio de anúncios do Fb, disponíveis para obtain nas lojas da Apple e Google App e acessados facilmente usando pesquisas simples da Internet.
“Essa é a realidade de onde a tecnologia está agora, e isso significa que qualquer pessoa pode realmente ser vitimada”, disse Haley McNamara, vice -presidente sênior de iniciativas e programas estratégicos do Centro Nacional de Exploração Sexual.
CNBC’s Relatórios brilha uma luz sobre o atoleiro authorized em torno da IA, e como um grupo de amigos se tornou figuras-chave na luta contra pornografia não consensual e gerada pela IA.
Aqui estão cinco takeaways da investigação.
As mulheres não têm recurso authorized
Como as mulheres não eram menores de idade e o homem que criou os DeepFakes nunca distribuiu o conteúdo, não havia crime aparente.
“Ele não violou nenhuma lei que estamos cientes”, disse Molly Kelley, uma das vítimas de Minnesota e estudante de direito. “E isso é problemático.”
Agora, Kelley e as mulheres estão defendendo um projeto de lei native em seu estado, proposto pelo senador democrata Erin Maye Quade, destinado a bloquear os serviços de Nudify em Minnesota. Se o projeto se tornasse lei, cobraria multas nas entidades que permitem a criação dos DeepFakes.
Maye Quade disse que a conta é uma reminiscência de leis que proíbem espiar o Home windows para tirar fotos explícitas sem consentimento.
“Nós simplesmente não lidamos com o surgimento da tecnologia de IA da mesma maneira”, disse Maye Quade em entrevista à CNBC, referindo -se à velocidade do desenvolvimento da IA.
O dano é actual
Jessica Guistolise, uma das vítimas de Minnesota, disse que continua sofrendo de pânico e ansiedade decorrente do incidente no ano passado.
Às vezes, ela disse, um simples clique de um obturador da câmera pode fazer com que ela perca o fôlego e comece a tremer, os olhos inchando com lágrimas. Foi o que aconteceu em uma conferência em que ela participou um mês depois de aprender sobre as imagens.
“Ouvi dizer que o clique da câmera e estava literalmente nos cantos mais escuros da Web”, disse Guistolise. “Porque eu me vi fazendo coisas que não sou eu fazendo as coisas”.
Mary Anne Franks, professora da Faculdade de Direito da Universidade de George Washington, comparou a experiência com os sentimentos que as vítimas descrevem ao falar sobre os chamados pornografia de vingança ou a publicação das fotos e vídeos sexuais de uma pessoa on-line, geralmente por um ex-parceiro romântico.
“Isso faz com que você se sinta que não é dono de seu próprio corpo, que nunca poderá recuperar sua própria identidade”, disse Franks, que também é presidente da Cyber Civil Rights Initiative, uma organização sem fins lucrativos dedicada a combater abuso e discriminação on -line.
DeepFakes é mais fácil de criar do que nunca
Menos de uma década atrás, uma pessoa precisaria ser um especialista em IA para fazer de DeepFakes explícitos. Graças aos serviços de nudifier, tudo o que é necessário é uma conexão com a Web e uma foto do Fb.
Os pesquisadores disseram que novos modelos de IA ajudaram a inaugurar uma onda de serviços NUDify. Os modelos geralmente são incluídos em aplicativos fáceis de usar, para que as pessoas que não tenham habilidades técnicas possam criar o conteúdo.
E embora os serviços Nudify possam conter isenções de responsabilidade sobre a obtenção de consentimento, não está claro se existe algum mecanismo de aplicação. Além disso, muitos websites Nudify se comercializam simplesmente como as chamadas ferramentas de troca de rosto.
“Existem aplicativos que se apresentam como divertidos e eles são realmente destinados principalmente a propósitos pornográficos”, disse Alexios Mantzarlis, especialista em segurança da AI da Cornell Tech. “Isso é outra ruga neste espaço.”
Nudify Service DeepSwap é difícil de encontrar
O web site usado para criar o conteúdo é chamado DeepSwap, e não há muita informação sobre ele on-line.
Em um Comunicado de imprensa Publicado em julho, a DeeptSwap usou uma linha de dados de Hong Kong e incluiu uma citação de Penyne Wu, que foi identificada no lançamento como CEO e co-fundador. O contato da mídia no lançamento foi Shawn Banks, que foi listado como gerente de advertising and marketing.
A CNBC não conseguiu encontrar informações on -line sobre a WU e enviou vários e -mails para o endereço fornecido para os bancos, mas não recebeu resposta.
Atualmente, o web site da DeeptSwap lista “MindSpark AI Restricted” como nome da empresa, fornece um endereço em Dublin e afirma que seus termos de serviço são “governados e interpretados de acordo com as leis da Irlanda”.
No entanto, em julho, a mesma página DeepSwap não mencionou o MindSpark, e as referências à Irlanda disseram Hong Kong.
Danos colaterais da IA
O projeto de lei de Maye Quade, que ainda está sendo considerado, as empresas de bem tecnologia que oferecem serviços de Nudify de US $ 500.000 para todos os DeepFake explícito e não consensual que geram no estado de Minnesota.
Alguns especialistas estão preocupados, no entanto, que os planos do governo Trump de reforçar o setor de IA prejudicarão os esforços dos estados.
No closing de julho, Trump assinou ordens executivas como parte da Casa Branca Plano de ação da IAressaltando o desenvolvimento da IA como um “imperativo de segurança nacional”.
Kelley espera que qualquer impulso federal da IA não prejudique os esforços das mulheres de Minnesota.
“Estou preocupado que continuemos sendo deixados para trás e sacrificados no altar de tentar ter alguma corrida geopolítica para a IA poderosa”, disse Kelley.
ASSISTIR: O aumento alarmante dos aplicativos ‘Nudify’ que criam imagens explícitas de pessoas reais.
