A perspectiva de um referendo sobre a soberania de Alberta desencadeou uma onda de histórias clickbait em websites de compartilhamento de vídeos no início deste ano.
Mas num desenvolvimento que um especialista chama de “preocupante”, as fazendas de conteúdo que normalmente usam IA para narrar vídeos encontraram uma maneira de contornar a repressão a esse tipo de conteúdo – usando pessoas reais.
Com a proliferação de ferramentas de inteligência synthetic prontamente disponíveis, os usuários de mídias sociais provavelmente se depararão com “resíduos de IA” – conteúdo enganoso, produzido em massa e de baixa qualidade, muitas vezes visto como spam.
Por exemplo, um vídeo que atraiu mais de um milhão de visualizações no TikTok no mês passado, afirmou corajosamente em sua legenda que “Alberta e Saskatchewan acabaram de fazer OFICIALMENTE um NEGÓCIO DE SAÍDA que CHOCOU o Canadá!”
A história – que não tinha fontes que fundamentassem o acordo de saída – foi contada por um avatar de IA gerado por Olá Gen. A narração automática até pronunciou incorretamente a capital de Saskatchewan, Regina.
No entanto, alguns canais com manchetes igualmente sensacionalistas optaram por um toque mais humano, com pessoas reais seguindo roteiros que às vezes estão repletos de erros e meias verdades.
POLÍTICOS DE IA E COMENTÁRIOS ESCRITOS
A imprensa canadense identificou três canais com centenas de milhares de visualizações entre eles que publicaram comentários políticos canadenses enganosos usando apresentadores que anunciam seus serviços como dubladores ou apresentadores.
O repórter canadense, Zona Canadense e O repórter de efeitos canais no YouTube usaram miniaturas com imagens geradas por IA do primeiro-ministro Mark Carney, da primeira-ministra de Alberta, Danielle Smith e outros, para atrair cliques.
O Canadian Reporter e o Impact Reporter incluíram conteúdo que se inclinava tanto para a esquerda quanto para a direita, com muitas postagens exagerando os efeitos da guerra comercial do Canadá com os Estados Unidos.
Tanto o Canadian Zone quanto o Impact Reporter estão no YouTube há anos, mas o conteúdo com apresentadores reais parece ter aparecido pela primeira vez em agosto.
Houve sinais de que alguns dos comentários do guião foram escritos com a ajuda de ferramentas de IA, incluindo palavras e frases repetitivas, falta de fontes e erros factuais.
Alguns erros eram óbvios, como a referência ao “governo de Trudeau” em um relatório de 9 de agosto. Postagem da Zona Canadenseintitulado “BREAKING! Canadá ENTRA em erupção depois que províncias ocidentais lançam MASSIVO novo anúncio WEXIT.”
A postagem foi publicada cerca de cinco meses depois que Justin Trudeau renunciou ao cargo de primeiro-ministro.
O vídeo também menciona uma conferência de imprensa realizada um dia antes pela primeira-ministra de Alberta, onde ela supostamente delineou um quadro para a separação com os “líderes de Saskatchewan” presentes.
Um itinerário de seu escritório indica que ela está de férias naquele momento e nenhum evento pode ser encontrado no web site. Seu canal no YouTube em Albertaonde são gravadas as coletivas de imprensa oficiais.
Um 14 de outubro publicar do The Canadian Reporter disse: “os dados das pesquisas mostram que mais da metade da população de Saskatchewan apoia a autonomia se Ottawa mantiver seus impostos sobre carbono em vigor”.
O vídeo não ofereceu fontes para esta afirmação, mas uma pesquisa do Instituto Angus Reid em maio descobriu que 34 por cento dos entrevistados apoiavam a saída de Saskatchewan da Confederação.
Receba notícias nacionais diárias
Receba as principais notícias, manchetes políticas, econômicas e de assuntos atuais do dia, entregues em sua caixa de entrada uma vez por dia.
A manchete do publish mencionava um acordo “Wexit” assinado, mas não foi discutido no vídeo e não há acordos oficiais entre as províncias ocidentais em relação à separação ocidental.
O TOQUE HUMANO
O repórter canadense identificado seu apresentador como “repórter Andrew Wilson”, mas uma pesquisa reversa de imagens da foto do apresentador levou a um web site anunciando serviços profissionais de locução da Pensilvânia André Baldwin.
As imagens no web site de narração correspondem às usadas no canal do YouTube, e uma lista de serviços oferecidos inclui “desempenho diante das câmeras” e “branding do canal” para o YouTube.
Uma busca reversa de imagens pelo apresentador da Zona Canadense, frequentemente identificado no canal como “@gshoemakerr” ou “Griffin”, levou a uma página anunciando serviços de narração de outro americano, Griffin S., no Trabalhoum web site de serviços de exhibits.
Outras pesquisas levaram a uma perfil de trabalho de locução com seu nome completo, Griffin Shoemaker, e um página pessoal do YouTube. O histórico dos vídeos postados em seu canal correspondia aos do canal da Zona Canadense.
Usando o mesmo método, a imprensa canadense identificou três pessoas que parecem ter apresentado o canal The Impact Reporter. Perfis on-line os descrevem como atores, narradores ou dubladores e sugerem que moram nos Estados Unidos, África do Sul e Canadá.
A imprensa canadense solicitou várias vezes comentários dos cinco indivíduos que pareciam ser os anfitriões.
Terráquea Rae Smithum ator e narrador que parece ter apresentado O repórter de efeitos canal, disse que não poderia discutir detalhes do canal. Baldwin inicialmente concordou em comentar por e-mail, mas não respondeu às perguntas. Os outros três não responderam aos pedidos de comentários.
Comentários sob um vídeo da Canadian Zone, aparentemente o primeiro com Shoemaker, sugere um possível motivo pelo qual os canais passaram a usar pessoas reais para transmitir suas mensagens: “É bom ver seu rosto – parece menos indutor de cliques”, enquanto outro sugeriu que conseguiriam mais assinaturas desta forma, à medida que as pessoas estão ficando “cansadas de toda a IA”.
ECOSSISTEMA DE INFORMAÇÃO ‘DISTOPIANO’
“É realmente preocupante”, disse Aengus Bridgman, diretor do Observatório do Ecossistema de Mídia e professor assistente na Escola Max Bell de Políticas Públicas da Universidade McGill.
“Não acho que alguém possa olhar para isso e dizer: ‘Uau… queremos roteiros gerados por IA, iscas partidárias, lidos por atores.’ Esta é uma das muitas características um tanto distópicas do nosso atual ecossistema de informação.”
Bridgman disse que embora as técnicas possam ser exploradas por forças políticas – e há alguns actores estatais a criar conteúdos semelhantes – ele pensa que o principal objectivo dos vídeos de separação ocidental é gerar dinheiro através de cliques.
O uso de dubladores em vídeos de spam político no YouTube não é inédito.
Uma investigação do Laboratório de Pesquisa Forense Digital do Atlantic Council e da CNET sobre um coleção de canais do YouTube em 2020, descobriram que muitos usavam dubladores para ler roteiros extraídos de websites políticos marginais.
O aparecimento das páginas de conteúdo canadense hospedadas por atores em agosto ocorreu brand depois que o YouTube mudou sua política para atingir as chamadas contas de IA.
A mudança de julho reforçou as regras que definem conteúdo “autêntico”, proibindo a monetização de vídeos que a plataforma considere produzidos em massa ou repetitivos.
O repórter canadense tinha dois canais, e um com mais de 60 mil inscritos foi retirado do ar pela plataforma em meados de outubro.
Quando contatado para comentar em 24 de outubro, um porta-voz do YouTube confirmou que os canais Canadian Reporter, Canadian Zone e Impact Reporter foram encerrados de acordo com suas políticas contra spam, práticas enganosas e golpes.
No entanto, no remaining daquele mês, o canal Canadian Reporter, com 60.000 assinantes, voltou ao YouTube e continua a postar vídeos sobre a separação ocidental.
“Com 500 horas de vídeo enviadas a cada minuto para o YouTube, contamos com os membros da nossa comunidade para conhecer as diretrizes da comunidade e sinalizar o conteúdo que eles acreditam que as viola”, disse o porta-voz por e-mail.
“Revisamos rapidamente todo o conteúdo sinalizado e, se descobrirmos que um vídeo viola as diretrizes, nós o removemos.
“Também temos uma equipe dedicada a identificar e remover spam do YouTube.”
Zone Media, proprietária da conta da Canadian Zone, disse em uma postagem no ano passado na plataforma X que seu canal com mais de 100 mil inscritos havia sido retirado do ar pelo YouTube.
De acordo com um versão arquivada desse canal, publicou muitos posts pró-Rússia e alarmistas sobre o colapso iminente dos EUA.
RESPOSTA DOS CANAIS
Na descrição do canal, The Canadian Reporter tinha um isenção de responsabilidade dizendo que os vídeos podem explorar “informações não verificadas” e “não devem ser interpretados como fatos confirmados”.
A Zona Canadense não tinha tal isenção de responsabilidade.
Ele disse publicou “Comentário político americano e canadense” e period “orgulhosamente conservador”. Em 27 de outubro postar no X sobre o encerramento da Zona Canadense pelo YouTube, a Zone Media contestou a descoberta de que produzia spam e negou o uso de IA ou automação.
“Somos uma equipe legítima de rede de mídia que produz notícias em estilo de comentário cara-a-câmera, usando apenas fontes verificadas”, afirmou.
A Canadian Press entrou em contato com o The Canadian Reporter e a Canadian Zone por meio de endereços de e-mail nas descrições de seus canais. O Impact Reporter não forneceu informações de contato na descrição do canal.
Não houve resposta do The Canadian Reporter, mas um porta-voz da Zone Media Community respondeu por e-mail em nome da Zona Canadense.
O porta-voz que se identificou como Jordan Ellis disse que os vídeos sobre a separação ocidental foram removidos após uma “revisão de conteúdo de rotina” para “otimizar nossa biblioteca de conteúdo para focar em tópicos mais atuais e relevantes”.
Ellis também disse que os vídeos foram apresentados como “comentários, não como defesa”.
Os representantes do canal recusaram uma entrevista por telefone e não responderam perguntas específicas sobre o conteúdo que distribuem.
Para Bridgman, do Media Ecosystem Observatory, os vídeos representam uma “intrusão crescente” da IA no nosso ambiente de informação, e ele teme que as plataformas de redes sociais não saibam como lidar com a onda de conteúdos enganosos.
“Este é um mundo novo, todos estão tentando descobrir, mas a quantidade de conteúdo gerado por IA que começamos a ver nas redes sociais é realmente preocupante”, disse ele.
“Há um valor enorme para o humor e o entretenimento, mas o uso na política para mobilizar a base apenas contribui ainda mais para este ambiente onde não está claro o que é verdade e o que não é.”
