Por 
Para quem não sabe, deepfake é uma tecnologia capaz de criar vídeos falsos, mas muito realistas, de pessoas fazendo coisas que elas nunca fizeram na vida real através de uma inteligência virtual. Essa tecnologia já foi usada várias vezes e já gerou desde conteúdos pornográficos com celebridades, até discursos fictícios de políticos influentes.
Justamente por conta do “realismo” que os deepfakes podem passar existe uma urgência em abordar essa questão. Eles são criados a partir de softwares de inteligência artificial que aprendem características de rostos e vozes e produzem um conteúdo extremamente convincente. E mesmo que a tecnologia tenha sido criada para propósitos educativos e criativos, ela está sendo muito usada de uma maneira maliciosa como forma de enganar o público.
O assunto é tão sério que grandes redes sociais, como a Meta e o TikTok, estão lutando para conseguirem detectar e retirar os conteúdos que usam deepfakes. Mas ainda assim eles estão enfrentando vários desafios por causa da sofisticação crescente das ferramentas de inteligência artificial.
Deepfakes
Canal ciências criminais
Por isso que, mesmo que haja essa tentativa das plataformas em remover esse tipo de conteúdo, é essencial que os usuários das redes sociais saibam como identificar possíveis deepfakes. Isso pode ser feito analisando com mais cuidado as inconsistências em movimentos faciais ou sombras.
No Brasil, a legislação está começando a abordar esse tema, assim como já é visto com uma pena maior para os casos de estelionato digital. Contudo, ainda há um caminho longo para ser percorrido para que se ofereça um ambiente digital seguro. E a responsabilidade civil das plataformas ainda é um assunto que está sendo bem debatido com relação a disseminação de conteúdos falsos.
Todo assunto é bem complicado porque, mesmo que a inteligência artificial seja a ferramenta usada na criação dos deepfakes, ela também tem um papel essencial em sua detecção. Até porque, ferramentas de IA são treinadas para identificar padrões que são diferentes dos humanos, o que ajuda as plataformas a fazer sua moderação de conteúdo.
Mas como existe uma evolução constante nos algoritmos que criam os deepfakes, esses sistemas precisam ser atualizados constantemente. O que faz com que se forme um verdadeiro jogo de gato e rato entre quem cria os deepfakes e quem tenta detectá-los.
Por conta disso que a luta contra os deepfakes é uma coisa contínua e exige uma cooperação entre os desenvolvedores de tecnologia, legisladores, plataformas de redes sociais e usuários.
Resoluções
The Hollywood Reporter
Mesmo que seja difícil essa detecção, as redes sociais estão começando a tomar medidas com relação aos deepfakes. Como o YouTube que não irá mais permitir um conteúdo que “simula de forma realista” narração de menores de idade ou outras vítimas de crimes a respeito de como elas morreram ou da violência que sofreram. Essa mudança é parte da atualização das políticas da plataforma com relação ao assédio e ao cyberbullying.
O foco dessa atualização parece ser em um subgênero de conteúdos relacionados ao true crime, ou seja, crimes reais. Em vídeos desse tipo, às vezes, deepfakes eram usados para os relatos das vítimas a respeito do que elas passaram. Em alguns vídeos existem vozes geradas por inteligência artificial parecida com a de crianças.
Com a atualização, o usuário que usar o deepfake terá o conteúdo removido do seu canal e o que ele poderá fazer na plataforma também será limitado por um tempo. Por exemplo, um primeiro aviso limita ele de postar vídeos por uma semana.
Se o usuário voltar a violar a política em 90 dias, suas penalidades irão aumentar podendo ter o seu canal deletado pelo YouTube.
Essa política e preocupação do YouTube com o deepfake não é uma coisa nova ou exclusiva. Tanto que, em novembro do ano passado, o governo da Índia fez um alerta para o Facebook e para o YouTube a respeito das regras do país contra publicações de conteúdo deepfake.
De acordo com a Reuters, outras empresas de mídias sociais também receberam uma notificação e foram lembradas de que o país tem normas contra a técnica como com relação à desinformação.
Fonte: O Globo, Olhar digital
Comentários