Sora chega ao mercado, e não poderemos mais confiar em vídeos

Na semana passada, o mundo foi surpreendido pela plataforma Sora, o mais recente projeto da empresa de inteligência artificial OpenAI, e mostra que, agora, não podemos confiar na veracidade de nenhum vídeo.

Os conteúdos criados pela ferramenta exibem uma variedade de cenas, desde uma mulher caminhando pelas ruas de Tóquio até cães brincando na neve e uma casa em um penhasco à beira-mar.

Surpreendentemente, todas essas imagens foram sintetizadas por inteligência artificial a partir de simples instruções em texto. A qualidade das imagens é tão convincente que, à primeira vista, parecem ser registros da realidade.

Para os seres humanos, os vídeos sempre foram uma das formas mais confiáveis de evidência de eventos. Enquanto aprendemos nos últimos anos que textos e imagens podem ser facilmente manipulados, acreditávamos que os vídeos eram mais confiáveis.

No entanto, o Sora abalou essa crença agora. A capacidade de criar vídeos realistas com IA levanta sérias questões sobre a confiabilidade de qualquer gravação.

Como funciona?

Via Olhar Digital

Para entender como o Sora funciona, é simples. Pense em um prompt detalhado de uma cena. Em seguida, informe isso para a IA. Pronto, o Sora fará o vídeo.

No entanto, as alternativas são infinitas, inclusive para intenções maliciosas. Por exemplo, “Crie um vídeo para confundir o reconhecimento facial de um banco. Mova a cabeça para a direita e esquerda, olhe para cima, conforme as instruções do banco para entrar na conta”.

Muitos bancos, inclusive no Brasil, estão adotando o reconhecimento facial como parte de seus mecanismos de segurança. Com o avanço das ferramentas de inteligência artificial, enganar esses sistemas pode se tornar muito mais fácil.

A confiança na identificação de indivíduos do outro lado da tela se tornará cada vez mais cara e difícil de manter.

A necessidade de garantir a autenticidade dos vídeos se tornará uma prioridade urgente à medida que continuamos a lidar com os avanços da inteligência artificial.

Sora e o audiovisual

O problema vai além disso. Com o lançamento do Sora, a OpenAI está enviando uma mensagem clara: a empresa é o futuro da criação audiovisual.

Atualmente, a indústria de jogos, filmes e séries detém o monopólio na criação das imagens mais atraentes e valiosas do planeta. Essas produções são caras e exigem um trabalho árduo, seja capturando imagens da realidade ou programando-as meticulosamente.

A OpenAI busca demonstrar que, no futuro (talvez próximo), será capaz de replicar esse feito com imagens sintéticas, geradas por inteligência artificial.

Além disso, a empresa planeja disponibilizar essa capacidade para qualquer pessoa, permitindo que indivíduos conjurem a IA para criar desde obras monumentais inéditas até conteúdos pornográficos, notícias falsas e interferências em campanhas eleitorais.

Via Techtudo

Ainda é um mistério

É interessante notar que a OpenAI optou por não revelar mais detalhes sobre o treinamento do Sora (que significa “céu” em japonês), temendo questões de direitos autorais.

Supostamente, o treinamento envolveu uma ampla gama de vídeos da internet, filmes, séries e dados sintéticos gerados por videogames.

Durante a visita de Sam Altman ao Brasil no semestre passado, ele ressaltou a importância dos dados sintéticos no treinamento das inteligências artificiais atuais.

O Sora representa o mais recente trunfo que Altman apresenta ao mundo como parte de seu plano para angariar US$ 7 trilhões (R$ 34,79 trilhões). Se bem-sucedido, esse seria o maior levantamento de capital da história, visando alcançar a “inteligência artificial geral” e dominar o mercado de chips.

A ideia central é que, com o advento da inteligência artificial, muitos setores econômicos se tornarão obsoletos, transformando-se em relíquias do passado.

Isso abrange desde Hollywood até a Netflix, passando pelo mercado financeiro e abrangendo uma grande parte das áreas de saúde, engenharia, medicina, direito, contabilidade e gestão, sem mencionar o setor militar e de equipamentos bélicos.

Diante disso, os US$ 7 trilhões seriam um investimento modesto em comparação com o prêmio almejado.

Por outro lado, existe a visão de que tudo isso pode ser apenas um truque, e que estamos sendo coletivamente enganados, em parte, por vídeos de mulheres caminhando em Tóquio e cachorros brincando na neve, entre outras coisas.

Como saber, então?

Com o lançamento do Sora, pode parecer difícil saber quando confiar em um vídeo. A resposta, infelizmente, ainda é vaga: não conseguiremos saber, em um primeiro momento, se é verdade ou não.

Nesse caso, a indicação será sempre desconfiar. Enquanto os vídeos representavam uma prova incontestável da verdade, agora precisaremos ser mais céticos do nunca.

Ao ver um vídeo, especialmente em alta qualidade ou mais nítido do que realmente seria, desconfie. É o caso de registros de OVNIs, por exemplo, ou imagens de pessoas.

Além disso, a checagem de fatos deverá ser ainda mais importante no futuro. Ao ver um vídeo e duvidar se ele é real ou não, procure outras fontes de informação e confira a apuração de fake news.

A tecnologia veio para inovar e surpreender, mas, ao mesmo tempo, aguçará nossos sentidos e tornará os humanos um pouco mais desconfiados do que antes.

Fonte: Folha de São Paulo

Imagens: Olhar Digital, Techtudo