A IA torna mais fácil do que nunca criar conteúdo e os golpistas estão se aproveitando disso. Um relatório divulgado na quinta-feira pela empresa de segurança McAfee descobriu que muitos americanos (72%) viram o endosso de uma celebridade ou influenciador falso. De todas as celebridades cujos nomes, imagens e semelhanças são explorados em golpes on-line, os de Taylor Swift são os mais usados.
Seguindo Swift, outras celebridades cujas imagens são mais usadas em golpes on-line são Scarlett Johansson, Jenna Ortega e Sydney Sweeney. A maioria dos 10 primeiros são ícones ou músicos da cultura pop, incluindo Sabrina Carpenter, Kim Kardashian e Zendaya. A deputada norte-americana Alexandria Ocasio-Cortez é a única política da lista. Notavelmente, apenas dois são homens: Tom Cruise e LeBron James.
Não perca nenhum de nossos conteúdos técnicos imparciais e análises baseadas em laboratório. Adicionar CNET como fonte preferencial do Google.
O estudo se concentra em golpes on-line baseados em produtos voltados ao consumidor, como uma criptografia falsa que alega ser endossada pela AOC. Não mede o nível de todos os deepfakes criados, razão pela qual outras figuras notáveis, como o presidente Donald Trump, não estão entre os 10 primeiros. Este tipo de burlões da Web dependem de fazer com que as pessoas interajam com o seu conteúdo, seja clicando em hyperlinks falsos, candidatando-se a brindes fraudulentos ou comprando produtos falsos. Então, infelizmente, faz sentido que eles dependam de grandes nomes como Swift para chamar nossa atenção. Por exemplo, quando Swift anunciou seu noivado com Travis Kelce, os golpistas criaram anúncios de mercadorias falsas com base na proposta de Kelce. Celebridades e influenciadores têm sido explorados dessa forma há muito tempo, mas a IA dá um impulso infeliz aos maus atores.
Ferramentas generativas de IA, como geradores de imagem, vídeo e áudio, oferecem um novo caminho aos malfeitores. Eles podem clonar a imagem de uma celebridade para criar um endosso falso, uma oferta ou promover produtos falsos. Tudo o que o golpista precisa fazer é criar uma postagem nas redes sociais suficientemente convincente. E funciona, com a McAfee relatando que 39% das pessoas clicaram em um desses falsos endossos e 10% colocaram suas informações pessoais em risco e perderam centenas de dólares em média (US$ 525).
As empresas de IA que criam esses modelos de IA possuem sistemas para tentar impedir que golpistas, ou qualquer pessoa, criem conteúdo de IA de celebridades sem o seu consentimento. Mas já vimos muitas vezes como esses sistemas não são perfeitos e podem ser contornados. Nas primeiras semanas após o lançamento do Sora, o espólio do líder dos direitos civis Martin Luther King Jr. teve que entrar em contato com a OpenAI porque estava preocupado com uma enxurrada de vídeos de IA inapropriados e racistas de King na plataforma. Embora a OpenAI tenha dito que planeja trabalhe com atores e celebridades nesta questãonão é algo que possa ser resolvido apenas com simples ajustes técnicos ou políticos.
Como identificar um golpe de celebridade de IA
Identificar conteúdo gerado por IA é difícil, mas há algumas coisas que você pode observar. Aqui estão alguns.
- Inspecione o vídeo ou imagem de perto. Existem objetos que desaparecem e reaparecem? Obedece às leis da física? As pessoas têm uma aparência estranhamente brilhante e parecida com plástico? Todos esses são sinais de IA.
- Verifique se há uma marca d’água. Muitos geradores de IA adicionam automaticamente uma marca d’água transparente (ou incorporada), denotando que é IA.
- Certifique-se de que o Instagram, TikTok ou YouTube ainda não tenha rotulado a postagem como gerada por IA. Rótulos de IA de qualquer tipo são um sinal claro de que o que você está vendo não é actual.
Mesmo na period da IA, as dicas para detectar um golpe não são tão diferentes dos tempos anteriores à IA. Embora os golpistas possam estar usando IA, eles ainda usam as mesmas táticas.
“Os sinais de alerta não mudaram: urgência, pressão emocional e pedidos de informações pessoais ou pagamento ainda são os maiores brindes”, disse Abhishek Karnik, chefe de pesquisa de ameaças da McAfee, por e-mail.
Aqui estão alguns fraude bandeiras vermelhas para ficar de olho.
- Pense antes de clicar. Os golpes são projetados para criar um senso de urgência ou reação emocional, disse Karnik.
- Verifique a fonte. O hyperlink está escrito incorretamente ou deformado? A conta oficial da celebridade postou sobre o produto? A conta foi verificada? Tudo isso pode ajudá-lo a decifrar o actual do golpe.
- Desconfie de websites que solicitam pagamento por meio de criptografia, aplicativos de pagamento como Venmo ou outras fontes não autorizadas
Os golpistas tentarão manipular sua confiança, disse Karnik. Estar atento e vigilante ao compartilhar suas informações pessoais pode ajudá-lo a evitar cair em um golpe. Só porque algo diz que é endossado ou usado pelo Swift não significa que realmente seja.
Para mais, confira como identificar fraudes bancárias e por que e-mails de phishing não são mais tão óbvios. (Divulgação: Ziff Davis, empresa controladora da CNET, entrou com uma ação judicial contra a OpenAI em abril, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.)
