Uma plataforma que promete “conversas picantes de IA” deixou quase dois milhões de imagens e vídeos, muitos deles mostrando cidadãos privados, expostos ao público, 404 Mídia relatada.
Secret Needs, um chatbot erótico e gerador de imagens de IA, deixou recipientes de armazenamento em nuvem com fotos, nomes de mulheres e outras informações pessoais, como locais de trabalho e universidades, vulneráveis, de acordo com a 404 Media.
Este “vazamento massivo” é o caso mais recente de pessoas que usam ferramentas generativas de IA para transformar fotos inocentes em deepfakes explícitos e não consensuais.
Aplicativos de conexão para todos
AdultFriendFinder
–
escolha dos leitores para conexões casuais
Inflamável
–
melhor escolha para encontrar conexões
Dobradiça
–
escolha fashionable para encontros regulares
Produtos disponíveis para compra através de hyperlinks de afiliados. Se você comprar algo por meio de hyperlinks em nosso website, o Mashable poderá ganhar uma comissão de afiliado.
A pornografia com IA é o próximo horizonte do prazer próprio – e é ética?
Algumas das fotos e vídeos foram tirados de influenciadores reais, figuras públicas e mulheres não famosas. A última categoria inclui capturas de tela do Snapchat e pelo menos uma foto do anuário. Algumas das mídias expostas incluíam imagens de IA geradas por usuários, como aquelas criadas com um recurso “faceswap” agora extinto, que Secret Needs removeu no início deste ano.
Relatório de tendências do Mashable
Assim como Character.AI ou Replika, Secret Needs permite que os usuários criem personas de IA e conversem com elas. Enquanto conteúdo pornográfico não é permitido em Character.AI (e é permitido apenas para determinados usuários do Replika), Secret Needs afirma que “fornece intimidade e conexão ilimitadas” em seu Guia de início rápido.
Conforme descoberto pela 404 Media, as mídias geradas por IA encontradas nos contêineres de armazenamento vulneráveis eram em sua maioria explícitas. Alguns dos nomes dos arquivos incluíam termos como “17 anos”.
A empresa não respondeu ao pedido de comentário da 404 Media, mas os arquivos ficaram inacessíveis cerca de uma hora após o contato da publicação.
Durante anos, mulheres e meninas foram vítimas de deepfakes explícitos, que são conteúdos gerados por IA. Muitos deepfakes são imagens de mulheres “trocadas de rosto” em vídeos pornográficos. Isso se aplica a celebridades como Taylor Swift, bem como a mulheres que não são famosas. Isto também acontece com as meninas, criando materials on-line de abuso sexual infantil.
Este ano, o Congresso aprovou a Lei Take It Down para combater imagens deepfake. A lei revelou-se controversa, uma vez que vários grupos de defesa da liberdade de expressão afirmam que ela pode ser usada como arma contra materials explícito consensual ou discurso político.
Tópicos
Inteligência synthetic
