Pedimos aos adolescentes que escolhessem se os vídeos eram reais ou de IA. Eles não eram muito bons nisso

Enquanto assiste ao vídeo de um pescador sendo puxado e puxado para dentro da água, Fahad, 16 anos, está confiante de que seus olhos não o enganam.

“Isso parece actual para mim, eu acho”, diz ele.

“Não há nada de estranho nisso, e acho que o piso também period bastante pure.”

Sua confiança está equivocada. O vídeo que ele está assistindo foi gerado com IA.

“Isso é IA? Oh… ah, sou péssimo nisso.”

Ele pode dizer que é terrível, mas não está sozinho. Enquanto Sasha, 17 anos, observa o mesmo pescador de IA, ela cai na mesma armadilha.

“Eu sinto que isso parecia bastante realista. Vou dizer actual”, diz ela, incorretamente.

“Oh meu Deus, isso não está indo bem.”

Fahad e Sasha fazem parte de uma experiência.

Mostramos a quatro alunos do ensino médio 21 vídeos curtos, 10 deles reais e 11 gerados por IA.

Após cada um dos vídeos, pedimos aos alunos que decidissem se o que assistiram period actual ou IA.

Antes mesmo de o teste começar, os alunos não estavam exatamente confiantes em sua capacidade de detectar uma falsificação.

“Acho que provavelmente aparece no meu feed o tempo todo e eu nem percebo, então não sei. Acho que veremos como vai”, diz Sasha.

Iris, 17 anos, está igualmente hesitante em seu radar de IA.

“Sinto que não fui muito bom em perceber a IA no passado, então não acho que isso realmente tenha mudado.”

Os resultados chegaram e os alunos mal se saem melhor do que o acaso.

No complete, eles acertaram 67% das vezes.

Quando se tratava de vídeos gerados por IA, os alunos foram levados a pensar que period um vídeo actual um terço das vezes.

Eles também eram céticos em relação aos vídeos reais, adivinhando incorretamente que 33% deles eram gerados por IA.

Carregando…

“É difícil distinguir quando há vídeos reais que parecem tão irreais e quando há vídeos falsos que… são projetados para parecerem tão reais”, diz Sasha.

Ela conseguiu distinguir corretamente os vídeos em 70% das vezes.

“Ainda sinto que não estou muito confiante para fazer isso”, diz Sasha após fazer o teste.

Uma mudança no conteúdo de IA

No mês passado, a Open AI, empresa por trás do ChatGPT, lançou uma nova versão de seu gerador de vídeo AI, Sora.

Ao mesmo tempo, lançou uma nova plataforma de mídia social onde tudo é IA e as pessoas podem fazer add de seus rostos e permitir que os façam deepfake.

Jeremy Carrasco, que administra uma conta de mídia social que ajuda as pessoas a identificar vídeos de IA, diz que desde o seu lançamento, outras plataformas de mídia social, como o Instagram, foram inundadas com vídeos gerados por IA.

Carrasco, também conhecido como ShowTools.AI, afirma que a última iteração do Sora foi projetada especificamente para criar vídeos virais.

“Anteriormente, muitos dos desperdícios de IA realmente pareciam muito desleixados porque não eram muito interessantes, mas Sora 2 pode fazer coisas interessantes por padrão.

“Tem uma certa viralidade incorporada, onde obviamente foi treinado para isso, ou surgiu como uma habilidade de ser engraçado e de aparência bastante interessante, sem a necessidade de muito trabalho nisso.”

Carregando…

Desde o lançamento de Sora, ele recebeu muitas críticas. No início, parecia não haver quase nenhuma restrição ao materials protegido por direitos autorais, algo que as empresas tentaram consertar com uma atualização.

Sora também foi criticado por permitir que os usuários usassem imagens de pessoas mortas.

Vídeos de Michael Jackson gerados por IA se tornaram virais e, em um comunicado on-line, Zelda Williams, filha do falecido Robin Williams, pediu às pessoas que parassem de enviar vídeos de seu pai.

Carrasco diz que as empresas de IA estão transferindo a responsabilidade e a proliferação de deepfakes nas redes sociais é profundamente preocupante.

“Eles [AI companies] não estão nem um pouco preocupados e transferem a responsabilidade para os danos sociais e acham que isso é simplesmente necessário”, diz ele.

“Eles sentem que isso é inevitável e, portanto, estão nos fazendo um favor ao permitir que todos falemos sobre isso e lidemos com isso, como se não fosse aceleracionista e como se o atrito não importasse.

“Mas, na realidade, ter atrito para criar deep fakes, ter atrito para criar coisas que enganam as pessoas, esse atrito é importante.

“Então, embora possam pensar que estão fazendo isso com segurança, as pessoas, eu acho, intuitivamente têm a sensação de que a normalização de deepfakes é extremamente perigosa.”

Sam Altman, CEO da OpenAI, que lançou o Sora, diz que continua a ajustar os recursos de segurança.

Em nossa tarefa, pedimos especificamente aos alunos que procurassem vídeos de IA. Carrasco diz que quando as pessoas navegam no seu próprio tempo, seria de esperar que estivessem muito menos vigilantes.

“O feed ‘para você’ sempre foi uma espécie de desligamento, então simplesmente não é o lugar onde as pessoas querem ligar e começar a detectar”, diz ele.

“As pessoas estão frustradas e cansadas de ver a IA em seus feeds. E, novamente, quero reconhecer que muitas pessoas ficarão felizes em assistir ao conteúdo de IA, mas não acho que saibamos quantas pessoas ainda.”

Gio, 16 anos, que participou do nosso teste e acertou admiráveis ​​86% das vezes, diz que seus feeds foram invadidos por conteúdo gerado por IA.

“Acho que a IA em geral assumiu o controle de todos os aplicativos que uso, como aplicativos de mídia social, como o Instagram”, diz ele.

“Posso dizer quais vídeos são IA ou não, mas às vezes… é assustador saber disso… talvez eu não tenha percebido se este vídeo é IA ou não.”

O que procurar

Carrasco diz que proteger-se contra vídeos de IA tem duas vertentes: detecção e prevenção.

A detecção consiste em procurar coisas específicas em vídeos que revelam que são gerados por IA.

“Muitas das coisas que estão se tornando virais nas redes sociais no momento são câmeras de segurança ou câmeras corporais, coisas que na verdade não dependem de boa qualidade de vídeo”, diz Carrasco.

“Mas a outra coisa é que você ainda precisa olhar para o cenário, ver se as coisas parecem estranhas… e apenas dizer que há inconsistências aqui.

“As pessoas podem intuitivamente sentir que algo está errado e depois verificar mais detalhadamente, mas na verdade trata-se de treinar essa habilidade.”

Os vídeos produzidos por Sora geralmente exibem uma marca d’água Sora em seus vídeos; no entanto, existem várias maneiras de removê-lo.

A outra coisa a observar é o “ruído de IA” ou “estático de IA”, onde o fundo ou recursos secundários dos vídeos geralmente aparecem ondulados ou com falhas.

Carrasco diz que você deve sempre questionar o contexto do vídeo e o que realmente acontece nele: um gato realmente pula assim ou as pessoas realmente estariam filmando o Louvre sendo roubado em seu telefone?

Se você notar que seu feed está cheio de conteúdo gerado por IA, Carrasco diz que você pode tomar medidas para evitar que ele apareça.

“Se você quiser manter seu entretenimento actual, o que considero uma coisa racional a se fazer, então você pode começar a cancelar a assinatura de páginas que fazem vídeos de IA”, diz ele.

“Eu sei que muitas pessoas simplesmente rolam a página ‘para você’ e, devido à forma como o algoritmo funciona, acabam vendo muitos de seus criadores favoritos repetidamente.

“Mas se você não os seguiu especificamente, agora é a hora de fazê-lo, porque você provavelmente deseja começar a fazer a transição para um modelo de seguidor, para saber que pode ter pelo menos um feed de criadores em quem você confia e que são pessoas reais.”