Há pelo menos dois Invoice de Blasios em Nova York. Mas quando um repórter de um jornal britânico enviou recentemente um e-mail a um deles pedindo citações para um artigo sobre o candidato a prefeito de Nova York, Zohran Mamdani, ele entendeu errado. O não famoso DeBlasio (que soletra seu nome “DeBlasio”, e não “de Blasio”) respondeu, supostamente usando ChatGPT para se parecer mais com o ex-prefeito. E isso desencadeou uma cadeia de eventos que resultou na retirada de um artigo e levanta questões sobre o futuro do jornalismo na period da IA.
Tudo começou quando um repórter do Occasions de Londres enviou por e-mail um projeto de lei De Blasio perguntar sobre “os planos políticos de Zohran Mamdani e seus custos estimados”, de acordo com Semáfor. Mamdani tornou-se um pára-raios político a nível nacional porque é um socialista democrático, o que levou a Fox Information e o presidente Donald Trump a persegui-lo como um “comunista” que destruirá a cidade de Nova Iorque se for eleito presidente da câmara.
Faz sentido que um repórter receba comentários de de Blasio sobre os planos de Mamdani, dado o seu papel único como antigo presidente da Câmara do Partido Democrata. Mas se você realmente não encontrar as informações de contato do de Blasio certo, isso é obviamente um problema. E para tornar as coisas ainda mais confusas, você pode não saber que chegou ao de Blasio errado se alguém agora puder imitar a voz de uma figura pública com ferramentas de chatbot de IA como o ChatGPT.
O repórter enviou acidentalmente um e-mail a um importador de vinho de Lengthy Island, de 59 anos, que “usou o ChatGPT para redigir uma resposta criticando os planos fiscais de Mamdani, em explicit, por serem improváveis de aumentar a receita necessária”, de acordo com Semafor. E o Occasions de Londres publicou a história com a manchete: “Invoice de Blasio, aliado de Zohran Mamdani, diz que as suas políticas ‘não batem’”.
O artigo do Time de Londres baseou-se nas citações falsas de DeBlasio para insistir que o antigo presidente da Câmara tinha dito que coisas como oferecer autocarros gratuitos e cuidados infantis universais – a base da campanha de Mamdani para presidente da Câmara – não resistiam a um exame minucioso. Não demorou muito para que de Blasio, o ex-prefeito, interviesse nas redes sociais.
“Quero ser 100% claro: a história do Occasions de Londres é totalmente falsa e fabricada”, escreveu de Blasio em um tweet no Twitter. Terça-feira. “Isso foi trazido à minha atenção e estou chocado. Nunca falei com aquele repórter e nunca disse essas coisas. Essas citações não são minhas, não refletem meus pontos de vista.”
Os tempos de Londres excluído o artigo e emitiu uma declaração à Related Press de que seu repórter havia sido “enganado por um indivíduo que afirmava falsamente ser o ex-prefeito de Nova York”.
Esta não foi a primeira vez. A revista Mel escreveu sobre o não prefeito DeBlasio em 2020na época em que ele period descrito como um profissional de segurança cibernética de 54 anos que frequentemente recebia mensagens destinadas ao prefeito. Mas ele há muito tempo brinca com a confusão.
“Uma vez, de brincadeira, mudei minha foto de perfil para a foto de Invoice de Blasio. Ai meu Deus, recebi 600 pedidos de amizade em duas semanas”, disse DeBlasio na época. Ele também admitiu que diria “as coisas mais ridículas e ultrajantes” enquanto fingia ser o prefeito.
E nada mudou muito, exceto a tecnologia. DeBlasio agora tem acesso a uma nova ferramenta que pode ajudá-lo a se passar pelo ex-prefeito. É uma ferramenta que ele não tinha em 2020. A IA generativa está à disposição de qualquer pessoa em 2025 que queira praticar alguma forma de engano. No jornalismo, esse engano não é apenas algo que vem de fontes potenciais. Pode ser perpetrado pelos próprios escritores.
Pelo menos seis meios de comunicação excluíram artigos escritos por alguém chamado Margaux Blanchard no ano passado, de acordo com o Diário de Imprensa. Acredita-se que Blanchard seja uma criação de IA, mas “ela” estava recebendo artigos publicados na Wired, Enterprise Insider, Mashable e Quick Firm. Wired escreveu sobre o erro em agostoestabelecendo o cronograma de quando o artigo foi apresentado a um editor e os sinais de alerta que apareceram quando o redator quis ser pago.
Curiosamente, a Wired escreveu que a história de Blanchard foi contada através de duas “ferramentas de detecção de IA de terceiros”, que descobriram que provavelmente foi escrita por um ser humano. Mas a IA não é boa para identificar quando algo é IA. Basta perguntar ao Grok.
“Fabulistas e plagiadores são tão antigos quanto a própria mídia”, escreveu a Wired. “Mas a IA apresenta um novo desafio. Ela permite que qualquer pessoa crie um argumento de venda perfeito com um simples comando e represente o papel de jornalista de maneira convincente o suficiente para nos enganar. Agimos rapidamente assim que descobrimos o estratagema e tomamos medidas para garantir que isso não aconteça novamente. Nesta nova period, todas as redações devem estar preparadas para fazer o mesmo.”
A Wired está absolutamente correta ao dizer que fabulistas e plagiadores são tão antigos quanto a própria mídia. Esse tipo de coisa até se transformou em alguns filmes muito bons de Hollywood, como o de 2003. Vidro quebradosobre o escritor da Nova República, Stephen Glass, da década de 1990, que apresentou histórias falsas como factuais. Mas parece haver uma mudança crítica acontecendo com a IA que ajuda as pessoas que pretendem enganar a conseguir isso de forma mais eficiente.
É quase certo que podemos esperar que ocorram mais mentiras intencionais no nosso atual cenário mediático, graças à IA. E parte disso é um jogo de números. A maioria das pessoas provavelmente não se deixará enganar por um vídeo falso de Elon Musk implorando para que invistam em uma criptomoeda fraudulenta. Mas se você inundar a Web com bastante falsificação, eventualmente os golpistas encontrarão suas vítimas.
A mesma coisa pode acontecer no jornalismo. Quem sabe quantos meios de comunicação Margaux Blanchard lançou antes de ser publicada com sucesso? E depois que ela foi publicada em um meio de comunicação, provavelmente foi mais fácil para ela levar essa validação para outro meio de comunicação como prova implícita de que ela period actual e confiável.
A mídia dos EUA está ficando vazia, à medida que as publicações lutam com as grandes empresas de tecnologia comendo toda a sua receita e ideólogos de direita assumindo o controle de instituições outrora respeitadas como o Washington Post e Notícias da CBS. O editor que trabalhou naquele artigo de Invoice de Blasio para o Occasions de Londres supostamente trabalhou para a Free Press, uma publicação de direita fundada pelo recentemente empossado chefe da CBS Information, Bari Weiss.
A IA é apenas mais uma ferramenta que parece estar acelerando a destruição de informações confiáveis na web. E não há muito que alguém possa fazer a respeito além de permanecer cético. Mas o ceticismo só pode levar você até certo ponto quando ferramentas como o software program de detecção de IA não funcionam realmente como anunciado. Os jornalistas são obrigados a continuar investigando para descobrir a verdade, verificando as informações através de múltiplas fontes. Mas esse trabalho só vai ficar mais difícil à medida que as pessoas que procuram enganar podem continuar jogando mais besteiras na parede, não exercendo mais esforço do que um simples immediate de texto de uma linha.
