O vídeo de 61 segundos do primeiro-ministro do Reino Unido, Keir Starmer, seria chocante, se fosse verdade. “O Reino Unido está prestes a introduzir um toque de recolher em todo o país, começando às 23h todas as noites”, ele parece dizer em um dos milhares de vídeos dele no TikTok postados nos últimos seis meses. “De acordo com a nova regra, ninguém poderá sair de casa depois das 23h sem autorização oficial.”Starmer nunca fez tal política ou anúncio. Mas graças à IA, o PM no pequeno vídeo parecia estranhamente parecido com o actual. O vídeo falso atraiu mais de 430.000 visualizações e inspirou postagens semelhantes no X e no Fb. Esse vídeo, e outros semelhantes, parecem ter sido retirados pela empresa de redes sociais de propriedade chinesa, que proíbe oficialmente “fontes oficiais falsas ou eventos de crise, ou mostra falsamente figuras públicas em determinados contextos”.“
Mas o clipe foi apenas um dos 6.042 vídeos, a maioria apresentando Starmer, identificado pela NewsGuard, uma empresa que rastreia desinformação on-line, entre maio e dezembro. Em um relatório, a empresa disse que os vídeos foram postados por contas com nomes de organizações de notícias falsas e de aparência britânica, como “BBB UK Information” e “Day by day Britain Information”. Juntas, as contas tinham mais de 1 milhão de seguidores quando o relatório foi divulgado. “Ele emula consistentemente Starmer”, disse Eva Maitland, analista sênior de influência russa da NewsGuard. “Ele produz afirmações falsas ou infundadas que parecem ruins para o governo Starmer, e são criadas para criar uma resposta forte das pessoas para que cliquem nela.”Maitland disse que os vídeos não parecem fazer parte de um esforço coordenado de adversários estrangeiros como a Rússia ou os adversários políticos internos do primeiro-ministro para prejudicá-lo aos olhos dos eleitores. Em vez disso, disse ela, eles provavelmente estão sendo criados por produtores de conteúdo cujo objetivo principal é ganhar dinheiro fazendo vídeos que se tornem virais.A adoção generalizada de ferramentas de geração de vídeo de IA fáceis de usar, como o Sora da OpenAI, aumentou drasticamente o número de vídeos falsos no TikTok e em outras plataformas de mídia social. Os vídeos falsos chegam num momento particularmente difícil para o PM, que já sofre com números muito baixos nas pesquisas. Em um vídeo, Starmer parece anunciar novas leis de carteira de motorista que poderiam privar muitos britânicos da capacidade de dirigir legalmente no país. Outro vídeo mostra a voz falsa de Starmer declarando que as novas regras permitirão às autoridades acessar o telefone de qualquer britânico, juntamente com seus dados privados. Imediatamente após o NewsGuard publicar seu relatório em 9 de dezembro, muitos dos vídeos estavam disponíveis no TikTok. Em 19 de dezembro, a maioria parecia ter sido removida da plataforma. Howard disse que o uso da IA na política está aumentando rapidamente. “Sabemos que agora é internacionalmente difundido”, disse ele. “Quatro em cada cinco eleições em todo o mundo têm agora lixo político gerado pela IA que não é atribuído e é claramente enganoso.“
