Eu tenho usado o Sora 2, e seu Bob Esponja, Memes e DeepFakes

Nesta semana, o Openai finalmente lançou Sora 2, o acompanhamento altamente antecipado do seu generativo modelo de vídeo de IA. O OpenAI lançou o Sora 2 em um aplicativo iOS independente (Desculpe, usuários do Android), que está atualmente disponível gratuitamente com base em convidado. Porque não tínhamos máquinas de inclinação suficientes.

Consegui obter um código de convite do Sora 2 e tenho percorrido o aplicativo e fazendo vídeos desde então (e sendo pago para fazê -lo).

Minhas primeiras impressões são um pouco complicadas. A tecnologia é impressionante, certamente. E eu me diverti rolando pelo aplicativo, mas, com a mesma frequência, achei o conteúdo que me deixou desconfortável.

O que é Sora 2?

O Sora 2 é um novo modelo de geração de vídeo e um aplicativo do OpenAI, o fabricante do ChatGPT. O SORA 2 pode fazer vídeos (com diálogo e áudio correspondentes) com base em avisos de linguagem pure. É o primeiro rival verdadeiro do VEO 3 AI Video Maker do Google, que está em uma liga própria desde o seu lançamento no início deste ano. Eu nem quero mencionar a llama ou o GROK de meta de Meta, think about ferramentas de vídeo na mesma frase que esses aplicativos, embora a Meta deva obter um impulso agora que é a tecnologia de licenciamento de midjourney.

A tela somente para convites …
Crédito: Captura de tela cortesia de Sora

… e o que o espera do outro lado.
Crédito: Captura de tela cortesia de Sora

Usar o VEO 3 pela primeira vez foi um daqueles Cruzando o Rubicon Momentos para mim. O nível de realismo foi igualmente impressionante e horrível. Sora 2 parece da mesma maneira. Como o VEO 3, está sendo usado principalmente para criar conteúdo viral de meme e vídeos de formato curto como você veria no Tiktok. Vídeos de um Golden Retriever sendo presos por furtar bifes no supermercado, ou um apoio emocional que o canguru para parado no aeroporto parece fofo, não sinistro.

Mas o potencial de danos da Sora 2 tem um relacionamento 1: 1 com sua qualidade. Quanto melhor e mais realistas os vídeos são (e alguns deles são muito bons e muitas vezes realistas), mais me preocupo com os deepfakes e a desinformação.

Sora 2 tem uma proteção muito melhor do que Grok

Sora rejeitará os avisos para vídeos abertamente sexuais.
Crédito: Captura de tela cortesia de Sora

Sora facilita o relatório de conteúdo ofensivo.
Crédito: Captura de tela cortesia de Sora

Quando Xai e Elon Musk lançaram Grok Think about, um gerador de imagem e vídeo generativo de IA, fiquei, francamente, horrorizado com a falta de salvaguarda. Musk lançou Xai e Grok como a alternativa politicamente incorreta aos aplicativos de inteligência synthetic que são, ele dizatolado com preconceito liberal. Grok também tem muito mais Laissez-faire Abordagem à moderação e segurança do conteúdo, resultando em fagos sexuais de DeepFakes em Grok Think about.

Por outro lado, o OpenAI implementou salvaguardas muito mais sangrentas para Sora 2. Se você enviar uma imagem para servir como inspiração para um vídeo, o aplicativo rejeitará sua imagem se detectar um rosto – qualquer rosto.

Uma captura de tela do aplicativo Sora mostrando uma foto rejeitada, parcialmente censurada pela Mashable.
Crédito: Captura de tela cortesia de Sora

Se você deseja criar um vídeo com uma pessoa actual, você deve usar o recurso As participações especiais. Esse recurso permite criar vídeos com a semelhança de pessoas específicas – desde que concordem em participar do recurso.

Quando tentei criar vídeos de figuras públicas como, digamos, Taylor Swift, usando técnicas comuns de jailbreak, o aplicativo se recusou a fazer o vídeo. Escusado será dizer que esta não é a showgirl loira que eu tinha em mente.

A ferramenta especial é authorized e irritante

As participações especiais são a característica mais famosa do novo aplicativo Sora até agora. Quando você obtém acesso ao aplicativo, a primeira coisa que você precisa fazer é optar por dentro ou fora da ferramenta especial, o que permite que sua semelhança seja usada em vídeos no aplicativo. Você pode dar a si mesmo a capacidade de fazer vídeos de si mesmo, mas também conceder acesso a contatos, usuários específicos ou ao público.

A ferramenta especial em Sora.
Crédito: Captura de tela cortesia de Sora

A Cameos resultou em uma enxurrada de vídeos com a semelhança do CEO da Openai, Sam Altman. As participações especiais são uma maneira inteligente de contornar o problema do Deepfake, permitindo que os usuários optem essencialmente para os deepfakes.

Este tweet está atualmente indisponível. Pode estar carregando ou foi removido.

Eu criei um vídeo meu, e foi esquisito. Sora não acertou minha voz, mas meu rosto, corpo, cabelo e semelhança geral estavam no native. Ver a si mesmo dize e fazer coisas que você nunca disse ou fez é uma sensação muito estranha.

Infelizmente, pode ser necessário se acostumar com esse sentimento – pois os entusiastas da IA ​​gostam de dizer, é uma nova period.

Sora 2 e veo 3 estão em uma liga de dois

Muitas ferramentas de IA generativas podem animar fotografias, mas poucas podem fazer vídeos realistas com o diálogo correspondente e os efeitos sonoros. Sora 2 faz isso facilmente, como o VEO 3 antes dele. Teremos uma comparação mais aprofundada de Sora 2 e VEO 3 em breve. Enquanto isso, vou apenas dizer que Sora 2 faz jus ao hype de maneiras que o GPT-5 não.

O aplicativo SORA pode fazer vídeos em vários estilos-vídeos falsos de câmeras policiais, comerciais de TV dos anos 90, videoclipes, transmissões esportivas-que não se parecem imediatamente com vídeos de IA.

Sora 2 parece jogar rápido e solto com propriedade intelectual

Mashable escreveu extensivamente sobre a luta entre artistas e detentores de IP e a indústria da IA. Empresas de IA como a Meta conquistaram algumas vitórias precoces nessas lutas, e as ordens executivas e comentários do presidente Donald Trump sobre o assunto favoreceram a indústria da IA.

“Não se pode esperar que você tenha um programa de IA bem -sucedido quando cada artigo, livro ou qualquer outra coisa que você leu ou estudou, deve pagar”, disse Trump ao anunciar o plano de ação da AI da Casa Branca neste verão, por Politico. “Agradecemos isso, mas simplesmente não podemos fazê -lo – porque não é factível”.

Pokémon no estilo de ‘The Breath of the Wild’.
Crédito: Captura de tela cortesia de Sora

Bob Esponja e Patrick em ‘Midsommar’ por A24.
Crédito: Captura de tela cortesia de Sora

Obviamente, muitos artistas e detentores de direitos discordam fortemente. Os advogados da Disney chamaram o Midjourney de “poço sem fundo do plágio” em seu processo contra a empresa de IA. Mas, por enquanto, o governo federal parece estar limpando o caminho para empresas como o OpenAI usarem IP com impunidade, para que a China não ganhe a vantagem na corrida armamentista da IA.

Então, a menos que a Disney ou a Warner Bros. obtenha uma vitória authorized surpresa, eu esperaria Bob Esponja QuadraAssim, Guerra nas Estrelase Rick & Morty Vídeos de IA para continuar se espalhando como incêndio com meades. Mashable perguntou ao OpenAI se a empresa tinha um contrato de licenciamento com a Warner Bros., que possui os direitos da Rick & Morty, mas a empresa se recusou a responder.

DeepFakes e memes até onde os olhos podem rolar

Existem alguns temas recorrentes no aplicativo Sora. Os usuários parecem estar transformando os discursos “I Have A Dream”, de Martin Luther King Jr. Um exemplo representativo: “Tenho um sonho que o Xbox Recreation Cross não aumentará os preços”. Eu ri na primeira vez que ouvi Martin Luther King Jr. dizer: “Tenho um sonho que nunca vou desistir de você, nunca vou decepcioná -lo, nunca vou correr e abandonar você”? Eu posso ter rido. Mas eu gostaria de não ter.

Eu também vi bastante de memes de Bob Esponja em explicit, e em menor grau, vários riffs em Rick & Morty e Pokémon. Isso pode ocorrer porque muitos millennials estão usando Sora, e os millennials mantêm o Bob Esponja Squarepants e Pokémon em um lugar especial em seus corações.

Captura de tela do aplicativo SORA com detalhes do usuário embaçado.
Crédito: Captura de tela cortesia de Sora

Captura de tela do aplicativo SORA com detalhes do usuário embaçado.
Crédito: Captura de tela cortesia de Sora

Figuras públicas e personagens de TV amados sempre foram forragem para memes. O que é novo aqui é a capacidade de criar vídeos facilmente com essas figuras dizendo o que você quiser. Na minha experiência, o Google VEO 3 é mais sensível a avisos envolvendo IP.

Como isso poderia ser problemático? Com Elon Musk atualmente Liderando um boicote à Netflix Sobre personagens trans em programas de TV infantil, agora qualquer um pode fazer um vídeo realista com personagens dizendo o que quiserem. Pode ser uma ferramenta poderosa para os agricultores de indignação.

Portanto, é mais uma vez hora de praticar a alfabetização da mídia e aprimorar sua capacidade de identificar vídeos virais da IA.

Entrei em contato com o OpenAI para comentar, e um representante da empresa disse que a Sora foi construída para fornecer aos usuários o máximo de liberdade criativa possível. O representante também disse que os detentores de IP podem enviar solicitações de queda através da empresa Formulário de disputas de direitos autorais; No entanto, não há uma opção de cobertor para os detentores de IP.

“Estamos sob carga pesada, tente novamente mais tarde.”

Para os primeiros usuários, espere ver muito essa mensagem. Como quando o OpenAI integrou a geração de imagens pela primeira vez no ChatGPT, a empresa está enfrentando uma demanda extremamente alta por Sora. Não espero que isso mude tão cedo. Recebi repetidamente esta mensagem de erro ao testar o aplicativo. De fato, foi difícil usar todos os meus créditos devido a esse erro frequente.

App sora com mensagem de erro: ‘Estamos sob carga pesada, tente novamente mais tarde’
Crédito: Captura de tela cortesia de Sora

Meu recurso favorito até agora

No feed da Sora, você pode rolar para cima ou para baixo para encontrar novos vídeos, o que é típico. No entanto, em alguns vídeos, você também pode rolar de lado para ver versões alternativas das postagens dos usuários. Este recurso de álbum de vídeo permite que você veja como o vídeo acabou com pequenos ajustes no immediate, o que é muito authorized.

Vídeo da IA ​​no estilo CAM do corpo de furtos em lojas.
Crédito: Captura de tela cortesia de Sora

“Torne -o um policial de pitbull que o trate muito pior por causa de sua raça”
Crédito: Captura de tela cortesia de Sora

É um pouco viciante

Finalmente, tenho que admitir que Sora 2 é um pouco viciante, mas apenas da mesma maneira que todos Os aplicativos de vídeo em formato curto são viciantes. Assim como é fácil cair em um buraco de Tiktok, é fácil cair em um buraco de Sora, e eu suspeito que muitos adotantes iniciais estão desperdiçando muito tempo no aplicativo.

Como eu disse, a tecnologia é certamente impressionante. Mas, melhor slop ainda está inclinado, não importa quantos gostem.

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril entrou com uma ação contra o Openai, alegando que ele violou a Ziff Davis Copyrights em treinamento e operação de seus sistemas de IA.