Deepfakes de voz são uma preocupação nas eleições da Europa

Para quem não sabe, deepfake é uma tecnologia capaz de criar vídeos falsos, mas muito realistas, de pessoas fazendo coisas que elas nunca fizeram na vida real através de uma inteligência virtual. Essa tecnologia já foi usada várias vezes e já gerou desde conteúdos pornográficos com celebridades, até discursos fictícios de políticos influentes.

Justamente por conta do “realismo” que o deepfake pode passar hoje em dia graças ao avanço da inteligência artificial, ele tem sido um alvo de preocupação. O motivo mais recente tem a ver com o uso dessa tecnologia para a criação de áudios através da clonagem de voz. Isso já é algo comum na indústria do entretenimento, sendo usado para dublar e criar músicas com atores ou cantores já falecidos.

Contudo, assim como qualquer outra coisa que uma inteligência artificial possa fazer, se colocada em mãos erradas, podem ter consequências drásticas, como por exemplo, ações de desinformação que tenham o objetivo de enganar eleitores e causar conflitos políticos.

Deepfake e eleições

Olhar digital

Isso pode parecer uma coisa irreal ou alarmista, mas infelizmente, nos últimos meses alguns países já viram o que um deepfake com a voz de líderes políticos pode causar

Um exemplo disso aconteceu no mês passado, quando dois dias antes da eleição nacional da Eslováquia foi vazado um áudio em que Michal Šimečka, líder do Partido Progressista do país, falava a respeito de um esquema para fraudar a votação subornando os membros da população cigana.

Uma semana após esse caso, foi publicado no Twitter um vídeo de  Keir Starmer, líder do Partido Trabalhista do Reino Unido e candidato a primeiro-ministro, xingando os funcionários.

De acordo com o The Washington Post, os dois casos foram desmentidos e que o mais provável era que eles tivessem sido gerados por deepfake de inteligência artificial. Mesmo assim, não é difícil encontrar posts no Facebook e no Twitter afirmando que essas situações são verdadeiras, o que leva mais pessoas à desinformação

Agora, como mais eleições irão acontecer na Europa, Thierry Breton, comissário da União Europeia, enviou uma carta para Mark Zuckerberg para pressioná-lo a fazer com que suas redes sociais tomem medidas a respeito da proliferação de deepfakes.

Preocupação

Panda security

A preocupação com o deepfake não se restringe somente às eleições europeias. Tanto é que, nos EUA, o ex-presidente Barack Obama apareceu em um vídeo postado no TikTok, no qual defendia a teoria da conspiração a respeito da repentina morte do seu ex-chefe de cozinha.

Quem postou esse vídeo foi uma das 17 contas que estavam promovendo informações falsas via áudio no relatório de setembro da NewsGuard, uma empresa que faz o monitoramento da desinformação online.

Na visão de Jack Brewster, pesquisador da NewsGuard que fez o relatório, o diferencial dos deepfakes de voz é que eles podem enganar as pessoas com mais facilidade. Isso porque neles não são vistas falhas tão facilmente como nas imagens e nos vídeos feitos por inteligência artificial.

Por isso que, tendo em mente as eleições presidenciais de 2024, a omissão Eleitoral Federal (FEC) já abriu uma consulta pública a respeito da regulamentação de conteúdos gerados de forma artificial para os anúncios políticos.

Usos

BBC

Embora haja muita gente que use o deepfake para fins, digamos, menos nobres, há também experimentos bem interessantes. Uma das primeiras empresas a usar a tecnologia do deepfake foi a Synthesia, companhia com sede em Londres que cria vídeos de treinamento corporativo. “Este é o futuro da criação de conteúdo”, disse o executivo-chefe e cofundador da Synthesia, Victor Riparbelli.

“Para fazer um vídeo gerado por inteligência artificial usando o sistema da Synthesia, você simplesmente escolhe entre vários avatares, digita a palavra que deseja que eles digam e pronto”, explicou.

Nesse ponto, Riparbelli diz que isso significa que as empresas podem, facilmente, fazer vídeos em diferentes idiomas para que sejam usados em cursos de treinamento.

“Digamos que você tenha três mil trabalhadores de armazém na América do Norte. Alguns falam inglês, mas alguns podem estar mais familiarizados com o espanhol. Se você precisa comunicar informações complexas a eles, um PDF de quatro páginas não é uma boa maneira. Seria muito melhor fazer um vídeo de dois ou três minutos, em inglês e espanhol. Se você tivesse que gravar cada um destes vídeos, seria um trabalho enorme. Agora podemos fazer isso com um pequeno custo de produção e o tempo que alguém levar para escrever o roteiro. Isso exemplifica muito bem como a tecnologia é usada hoje”, ressaltou.

Com isso, o uso da tecnologia deepfake está “crescendo significativamente ano após ano, mas os números exatos são difíceis de cravar”, como disse Mike Price, diretor de tecnologia da ZeroFox, empresa de segurança cibernética dos EUA que rastreia deepfakes.

Entretanto, na visão de Chad Steelberg, executivo-chefe da Veritone, fornecedora americana de tecnologia de inteligência artificial, a preocupação crescente com o deepfake usado de forma errada e mal-intencionada está atrapalhando o investimento e seu uso comercial.

“O termo deepfake definitivamente teve uma resposta negativa em termos de investimento de capital no setor. A mídia e os consumidores, com razão, podem ver claramente os riscos associados. Isso definitivamente impediu as corporações e os investidores de investir na tecnologia. Mas acho que se começa a ver essa abertura”, pontuou ele.

“Não devemos ter muito medo da tecnologia, e é preciso haver abordagens diferenciadas para isso. Sim, deve haver leis para reprimir coisas nocivas e perigosas, como discurso de ódio e pornografia de vingança. Os indivíduos e a sociedade devem ser protegidos disso. Mas não devemos ter uma proibição total dos deepfakes por sátira ou liberdade de expressão. E o crescente uso comercial da tecnologia é muito promissor, como passar filmes para diferentes idiomas ou criar vídeos educativos envolventes”, concluiu a professora Sandra Wachter, pesquisadora de inteligência artificial da Universidade de Oxford, no Reino Unido.

Fonte: Olhar digital, BBC

Imagens:Olhar digital, Panda security, BBC