Vídeos de Mark Zuckerberg reconhecendo o roubo de dados e Barack Obama abusando de Donald Trump estão circulando na internet há algum tempo?
Esses vídeos são o resultado de uma tecnologia de IA muito avançada e futurista chamada Deepfake.
Simplificando, é uma alternativa de photoshop para vídeo. Por um lado, pode revolucionar a mídia eletrônica, eliminando a necessidade de uma pessoa real.
Por outro lado, ameaça gravemente a identidade de alguém, pois você pode fazer qualquer pessoa dizer qualquer coisa em vídeo.
Uso de deepfakes deep learning para criar fotos e vídeos de eventos falsos, daí o nome deepfake. Ele pode não apenas trocar rostos em vídeos existentes, mas também criar novos quadros e vídeos do zero.
A origem dos deepfakes
Extensivo pesquisa acadêmica ultrapassou os limites da manipulação de fotos e vídeos nos últimos anos. Deepfake também é resultado dessas pesquisas acadêmicas.
O primeiro caso de manipulação de vídeo foi relatado em 1997. Um vídeo de uma pessoa foi modificado para falar as palavras contidas em uma faixa de áudio diferente. Foi o primeiro caso de reanimação facial usando aprendizado de máquina técnicas.
Outro avanço notável foi feito em 2017, quando um vídeo do ex-presidente dos EUA, Barack Obama, foi modificado para falar palavras diferentes correspondentes a uma faixa de áudio diferente.
Em 2018, pesquisadores da Universidade da Califórnia, em Berkeley, lançaram um aplicativo que poderia criar um vídeo de dança falso usando aprendizado profundo. Isso marcou a expansão dos deepfakes para todo o corpo, já que os trabalhos anteriores se limitavam a rostos.
Como Deepfakes são criados?
Graças aos avanços na computação, agora você pode desenvolver deepfakes com relativa facilidade e com baixo custo. Dois métodos principais são usados para gerar deepfakes.
Método 1
Você terá que treinar um rede neural em imagens de vídeo reais da pessoa. Isso permitirá que o rede neural para entender as características faciais do assunto em diferentes ângulos e condições de iluminação.
Depois disso, você processará a face original e a face latente por meio de um algoritmo de IA chamado codificador. Ele encontrará e aprenderá as diferenças e semelhanças entre as duas faces e ambas as faces são reduzidas a uma imagem compactada compartilhando os recursos comuns.
Em seguida, vem o segundo algoritmo de IA chamado decodificador, que recupera rostos de imagens compactadas. Ambas as faces são recuperadas por dois decodificadores diferentes.
Para realizar a troca de face, basta alimentar as imagens codificadas no outro decodificador.
Por exemplo, uma saída do codificador da face A é alimentada no decodificador treinado na face B que então reconstrói a face B com as características faciais da face A. Você terá que fazer isso em cada quadro do vídeo para uma saída convincente.
Método 2
Outro método para gerar deepfakes é o Generative Adversarial Network (GAN).
Você terá que usar dois algoritmos concorrentes para gerar deepfakes. O primeiro usará ruído aleatório para gerar uma imagem e, portanto, é chamado de gerador. Essa imagem sintética é alimentada a um fluxo de imagens reais por meio de um segundo algoritmo chamado discriminador.
O discriminador fornece feedback ao gerador que gera outra imagem de acordo com o feedback. Dessa forma, ambos os algoritmos fornecem resultados aprimorados a cada iteração. Este processo é repetido muitas vezes até que o nível de precisão necessário seja alcançado.
O GAN oferece resultados totalmente realistas, mas é difícil de trabalhar e requer uma enorme quantidade de dados de treinamento e poder de computação. É por isso que geralmente é preferido para gerar imagens em vez de videoclipes.
Alguns exemplos convincentes de Deepfakes
Existem alguns deepfakes muito convincentes girando em torno da internet e a maioria deles são de celebridades.
Por exemplo, existe uma conta TikTok exclusivamente dedicada aos deepfakes de Tom Cruise. Os vídeos mostram Cruise jogando golfe ou demonstrando um truque de mágica.
deseptomcruise Viagem! ????
Outro deepfake altamente complexo foi carregado no YouTube com Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas e Ewan McGregor. Ele tem algumas falhas óbvias, mas processar de 3 a 4 deepfakes em um vídeo simultaneamente é uma façanha por si só.
Outro exemplo é um vídeo deepfake do ex-presidente Barack Obama.
Este é incrivelmente convincente, pois usa as vozes e gestos de imitadores capazes de imitar as vozes e gestos do sujeito.
Agora estamos vendo deepfakes na indústria do entretenimento moderno.
Foi usado para filmar cenas de Paul Walker em Velozes e Furiosos 7 após a morte inesperada do ator. O deepfake foi usado em seu irmão com notável precisão.
O que os Deepfakes trazem para a mesa?
Deepfakes provaram ser uma tecnologia muito confiável para trazer revolução na mídia e entretenimento.
Você consegue se lembrar quando o bigode de Henry Cavill foi removido por CGI em “Man of Steel” e foi um desastre?
O mesmo agora pode ser feito em computadores de alguns milhares de dólares com resultados muito mais convincentes.
Agora você pode conhecer seus antepassados falecidos e entes queridos. Você pode até assistir a uma palestra de Física do próprio Albert Einstein.
Além de tudo isso, o deepfake não foi totalmente usado da maneira que deveria ser. Cerca de 96% dos deepfakes na internet são pornografia não consensual.
A grande quantidade de dados de treinamento disponíveis para celebridades fez com que elas fossem as vítimas mais visadas de deepfakes.
Isso nos permitiu colocar qualquer pessoa em cenários perigosos ou comprometedores e, portanto, representa um grande risco para todos.
Há relatos de que deepfakes de áudio são usados para enganar corporações. Em 2019, um imitador usou áudio falso profundo para instruir um CEO de uma empresa sediada no Reino Unido a transferir € 220,000 para um banco húngaro, representando o executivo da empresa controladora da empresa.
Como combater Deepfakes maliciosos?
Normalmente, você pode detectar vídeos deepfake observando atentamente quadro a quadro e procurando por artefatos e irregularidades.
No entanto, é um processo contra-intuitivo e muitas empresas estão trabalhando em algoritmos e software para detectar deepfakes.
O Facebook recrutou pesquisadores de Berkeley, Oxford e outras instituições para construir um detector de deepfake. Da mesma forma, o YouTube anunciou que não aceitará vídeos deepfake relacionados às eleições dos EUA, aos procedimentos de votação ou ao censo dos EUA de 2020.
Você também pode usar programas como Defensor da Realidade e Deeptrace para detectar deepfakes.
Os países também estão ocupados em legislar sobre o uso de deepfakes em geral. Os EUA implementaram várias leis sobre deepfakes no ano passado.
Embrulhar
Deepfake é a personificação viva do avanço da IA. Ele borra ainda mais a fronteira do futuro, no entanto, é uma ameaça potencial à credibilidade do conteúdo vídeo-gráfico na internet.
Haverá um momento em que as pessoas começarão a duvidar de todos os vídeos na internet e seremos empurrados para uma era de mais incerteza.
Deixe um comentário