Primeiro crime utilizando deepfake aconteceu e 243 mil dólares foram roubados

Em março deste ano, ocorreu o primeiro crime da história, com o uso da tecnologia deepfake. Tudo começou quando o diretor de uma empresa de energia alemã, com base no Reino Unido, recebeu uma chamada. Na ligação, o CEO da companhia ordenava uma transferência imediata de US$ 243 mil, para uma conta corrente na Hungria. O motivo, em suma, seria o pagamento de determinada uma taxa.

Sem pensar duas vezes, o diretor, claro, realizou o pedido. É aí, que entra a surpresa. Após realizar a transferência, o diretor recebe uma nova ligação. Novamente, o CEO encontra-se do outro lado da linha. Dessa vez, demandando outro envio.

Desconfiado, o diretor da empresa desliga o telefone. Para sanar a dúvida, o diretor da empresa aciona o número pessoal do executivo. Nesse ínterim, o CEO nega ter feito o pedido. É nesse momento, que o diretor confirma a suspeita: sim, a voz do profissional havia sido manipulada digitalmente. Isso, claro, tornou-se oficialmente um sinal de que já estamos começando a viver em um futuro distópico, no qual a realidade pode, claramente, ser manipulada.

Deepfakes

O caso tornou-se público, no final de agosto. O acontecimento foi comunicado pela francesa Euler Hermes. Hermes foi contratada pela empresa alemã e é a responsável por cobrir todos os custos perdidos com o golpe. A empresa, até o momento, não foi divulgada. O caso traz à tona o quão avançada está a tecnologia de simulação de voz.

O golpe é conhecido como deepfakes. Para quem não sabe, deepfakes consistem em uma técnica que usa inteligência artificial, para combinar uma determinada fala com um vídeo já existente. Por ganhar cada vez mais visibilidade, as empresas começaram, agora, a se preocupar mais com a questão da segurança.

Além da empresa alemã, pesquisadores da companhia de tecnologia Symantec afirmaram, ao Washington Post, terem encontrado, ao menos, outros três casos similares. Em todos, a voz de executivos foram imitadas, para enganar empresas, o que já resultou em perdas de milhões de dólares.

Táticas

Em suma, a simulação é feita assim: após receber uma gravação da voz de uma pessoa, o sistema “quebra” o som, em pequenos pedaços e sílabas. Em seguida, os fragmentos são reorganizados. A organização, claro, permite a formação de frases, que seguem o mesmo ritmo e tom de fala.

Atualmente, diversas empresas já estão trabalhando com tal tecnologia. Umas das empresas, que é destaque no ramo, é a Lyrebird. Em suma, a startup é focada na produção de vozes artificiais. A princípio, o objetivo da tecnologia é auxiliar a humanização dos serviços de sistemas de voz ou a criação de mecanismos, que melhorem a vida de pessoas com dificuldades de fala.

Entretanto, para muitas empresas, a tecnologia deveria ser mais restrita. Em contrapartida, especialistas acreditam que o sistema não é perfeito. Ainda de acordo com especialistas, as “vozes fake” não seriam capazes de enganar ninguém. Por outro lado, quando ocorrem casos de golpe, técnicas de intimidação, como pressão ou posição hierárquica, fazem com que as vítimas não prestem atenção ao som de fundo, respostas lentas e barulhos metalizados.

O termo deepfake apareceu em dezembro de 2017, quando um usuário do Reddit, com esse nome, começou a postar vídeos de sexo falsos com famosas. Com softwares de deep learning, ele aplicava os rostos, que queria, em clipes já existentes. Os casos mais populares foram os das atrizes Gal Gadot e Emma Watson. A expressão deepfake logo passou a ser usada, para indicar uma variedade de vídeos editados, com machine learning e outras capacidades da IA.