Deepfakes Explicado: Como Funciona, Riscos e Detecção

O Que É um Deepfake?

O que é um Deepfake?

Deepfake é uma tecnologia baseada em inteligência artificial (IA) usada para criar ou modificar vídeos, fotos, áudios e dentre outros conteúdos digitais.

Embora tenha ganhado popularidade inicialmente na indústria do entretenimento e nas redes sociais, os deepfakes se tornaram uma preocupação relevante de cibersegurança. Fraudadores usam deepfakes para manipular a opinião pública e influenciar eleições, enganar sistemas biométricos de reconhecimento facial e registrar contas falsas em diversos recursos comerciais e sistemas governamentais.

Deepfakes são difíceis de reconhecer. Neste artigo, explicamos como os deepfakes ameaçam a cibersegurança, apresentamos formas de detectá-los (elaboradas por especialistas do Group-IB Digital Risk Protection) e compartilhamos estratégias para mitigar os riscos associados.

Como os Deepfakes São Criados?

Os deepfakes são criados treinando um modelo com gravações reais de uma pessoa até que ele consiga reproduzir aquele rosto ou voz sob demanda. Um autoencoder aprende a reduzir um rosto às suas características essenciais e reconstruí-lo no corpo de outra pessoa, enquanto uma rede adversarial generativa (GAN) coloca um "falsificador" contra um "crítico" até que a falsificação passe no teste. Modelos de difusão refinam ruído visual até chegar a um quadro final.

A clonagem de voz segue um processo diferente, já que os modelos de fala aprendem o tom, o sotaque e o ritmo de um alvo antes de gerar novas frases com aquela voz. Uma pesquisa do Group-IB sobre vishing com deepfake de voz constatou que os modelos atuais precisam de apenas alguns segundos de áudio limpo, coletados de webinars, vídeos em redes sociais ou ligações curtas. O clone é então reproduzido a partir de um roteiro pronto ou usado para transformar a fala do atacante em tempo real.

Nada disso exige mais habilidade técnica, pois aplicativos voltados ao consumidor final já fazem a troca de rostos direto no navegador, e os métodos descritos funcionam com gravações que o alvo já publicou online.

O Group-IB rastreou vendedores no submundo digital que oferecem "geração de deepfake como serviço", além de posts em fóruns recrutando "atores de vídeo com IA" para contratação. Custo e habilidade técnica já não separam mais amadores de grupos de fraude organizados, e é por isso que os ataques com deepfake escalaram tão rapidamente.

Por Que os Deepfakes São Perigosos?

A clonagem digital representa uma ameaça séria, especialmente quando usada em ciberataques. Serviços de conversão de texto em voz com IA podem tornar chamadas fraudulentas incrivelmente naturais, resultando em campanhas de vishing (phishing por voz) mais eficazes. A procura por aplicativos de deepfake IA, como o HeyGen, e as discussões em torno deles apontam para um interesse crescente entre agentes de ameaça em burlar as medidas de segurança desses aplicativos, como observado por especialistas do Group-IB no Hi-Tech Crimes Report 2023/2024.

A Gartner chamou atenção para o fato de que ataques cibernéticos e de fraude impulsionados por IA, incluindo os que envolvem tecnologia deepfake, estão em ascensão: "As empresas devem se preparar para o uso, por agentes maliciosos, de sistemas de IA generativa em ataques cibernéticos e de fraude, como aqueles que utilizam deepfakes para engenharia social de funcionários, e garantir que controles de mitigação sejam implementados."

Golpes e phishing estão entre os desafios mais comuns, e a tendência é que se tornem ainda mais perigosos à medida que a IA continua evoluindo. Agentes de ameaça continuarão usando deepfakes realistas e convincentes para manipular pessoas e empresas, tornando ainda mais difícil distinguir comunicações genuínas de fraudulentas. Esses riscos significam que as organizações precisam adaptar suas estratégias de cibersegurança de acordo.

Esquemas Típicos de Ataques com Deepfake

Os deepfakes são usados de diversas formas maliciosas:

• Chantagem: rostos de vítimas são inseridos em vídeos comprometedores, por exemplo, em conteúdo pornográfico.
• Golpes de personificação: identidades de executivos e funcionários são forjadas e usadas em ataques de phishing para roubar dinheiro e informações sensíveis.
• Danos à marca: vídeos ou áudios falsos costumam ser criados para imitar marcas, induzir clientes a visitar sites de phishing ou golpe, ou espalhar informações falsas. Esses ataques podem prejudicar a reputação de uma empresa, afetando o preço das ações e a confiança dos consumidores.
• Cyberbullying: vídeos ou imagens deepfake são usados para assediar, difamar ou humilhar pessoas online, muitas vezes com efeitos devastadores para a saúde mental e a reputação das vítimas.
• Esquemas de fraude: criminosos usam o rosto de figuras públicas (como Elon Musk) para convencer vítimas a usar novas plataformas de exchange de criptomoedas em golpes com criptoativos. Cibercriminosos também podem roubar dados de reconhecimento facial para criar deepfakes, substituindo o próprio rosto pelo da vítima para obter acesso não autorizado a aplicativos bancários. O Group-IB descobriu recentemente o primeiro Trojan com essa capacidade, chamado GoldPickaxe.iOS.

Cibercriminosos também podem roubar dados de reconhecimento facial para criar deepfakes que substituem o próprio rosto pelo da vítima, permitindo acesso não autorizado a aplicativos bancários. O Group-IB descobriu o primeiro Trojan com essas capacidades, chamado GoldPickaxe.iOS.

Como Identificar um Deepfake de Voz?

É possível saber como identificar deepfake de áudio prestando atenção aos seguintes sinais:

• Artefatos digitais: sons robóticos ou ruído digital
• Ritmo de fala não natural: variações estranhas de velocidade, mais lentas ou mais rápidas
• Tom inconsistente: a expressão ou articulação pode não condizer com a fala habitual da pessoa ou com o contexto (por exemplo, excesso de emoção em um trecho calmo, ou o contrário)
• Entonação monótona: falta de variação na entonação, o que torna a fala artificial
• Vocabulário incomum: uso de palavras ou expressões que a pessoa normalmente não usaria

Diferentemente dos vídeos falsos, nos quais vários artefatos criados por redes neurais podem ser percebidos a olho nu (como o efeito "vale da estranheza"), detectar áudio falso de ouvido é muito mais difícil. Golpistas conseguem mascarar facilmente a origem digital do áudio com pequenas alterações e ruído. Para dificultar ainda mais a detecção, os deepfakes podem se basear em tecnologias de análise e modulação de som já consolidadas e amplamente usadas na indústria musical e em assistentes de voz como a Siri. Por isso, especialistas do Group-IB Digital Risk Protection recomendam ligar de volta para a pessoa a fim de confirmar sua identidade em caso de dúvida.

Observação importante: em muitos esquemas de fraude, em vez de usar deepfakes, os cibercriminosos costumam recorrer a trechos reais de vídeos de arquivo com pessoas famosas. Por exemplo, celebridades que participaram de campanhas publicitárias ou de marketing correm o risco de ter seus vídeos editados e redublados. Esses vídeos manipulados, que não envolvem técnicas complexas de troca de rosto, podem ser tão enganosos quanto os deepfakes.

Exemplos de Deepfake

Casos documentados mostram a rapidez com que essas técnicas deixaram de ser uma novidade para se tornarem uma ferramenta de abuso ativo. Os exemplos de deepfake a seguir estão agrupados pelo formato que os atacantes costumam usar, já que cada um falha de um jeito diferente e exige uma verificação diferente.

1. Deepfakes de celebridades e políticos

Figuras públicas são os alvos mais fáceis porque horas de suas gravações já estão disponíveis online. Em março de 2022, um vídeo fabricado de Volodymyr Zelensky pedindo que as tropas ucranianas se rendessem apareceu em um site de notícias invadido e se espalhou pelas redes sociais antes de ser desmentido. O Group-IB também documentou, separadamente, golpes de investimento em criptoativos construídos em torno do rosto de Elon Musk, que direcionam as vítimas a plataformas de exchange fraudulentas.

2. Vídeos deepfake

O vídeo continua sendo o formato mais convincente porque carrega rosto, voz e linguagem corporal ao mesmo tempo. Os atacantes agora fazem a troca de rosto ao vivo, dentro de chamadas de vídeo, em vez de produzir clipes com antecedência, o que anula o instinto de confiar em um rosto familiar na tela. A qualidade ainda varia bastante, e o vídeo de Zelensky foi desmentido em poucas horas, mas uma qualidade ruim já não impede mais que uma falsificação se espalhe.

3. Imagens deepfake

Imagens estáticas são os deepfakes mais baratos de produzir e os que se espalham mais rápido. Em maio de 2023, uma foto gerada por IA que parecia mostrar uma explosão perto do Pentágono circulou amplamente e chegou a abalar brevemente os mercados de ações dos Estados Unidos, antes que autoridades confirmassem que nada havia acontecido. As mesmas técnicas produzem imagens íntimas não consensuais e documentos de identidade falsificados, que costumam ser o primeiro contato da maioria das instituições financeiras com o problema.

4. Clonagem de voz por deepfake

O áudio clonado precisa de menos material de origem e funciona por canais que as pessoas raramente questionam. A pesquisa do Group-IB aponta para um caso de 2019 em que a voz clonada de um executivo desviou 243.000 dólares de uma empresa de energia do Reino Unido, e um caso no Canadá em que uma avó enviou 6.500 dólares após uma ligação que parecia ser do neto dela. Nenhum dos dois ataques exigiu mais do que uma pequena amostra de voz.

5. Golpes com deepfake voltados a empresas

A fraude corporativa causa as maiores perdas isoladas, já que uma única ligação bem-sucedida pode movimentar valores de sete dígitos. O Group-IB relata que uma videoconferência com deepfake custou à empresa de engenharia Arup cerca de US$ 25 milhões, depois que um funcionário participou de uma chamada composta inteiramente por colegas sintéticos e aprovou as transferências. A pesquisa do Group-IB sobre vishing registrou, separadamente, um aumento de 194% nas tentativas de fraude relacionadas a IA na região Ásia-Pacífico durante 2024.

Detecção de Deepfake

A inspeção manual é usada com menos frequência à medida que a tecnologia melhora, e a detecção de deepfake passou, em grande parte, para o software. Modelos de detecção de deepfake baseados em IA são treinados com grandes conjuntos de mídia real e sintética até aprenderem os traços estatísticos que um gerador deixa para trás. 

Alguns analisam padrões de frequência invisíveis a olho nu, enquanto outros rastreiam sinais fisiológicos sutis, como o fluxo sanguíneo facial ou o movimento da cabeça entre os quadros. A precisão permanece alta contra geradores que o modelo já conhece, mas cai bastante diante de geradores novos.

Imagens manipuladas

Imagens carregam menos dados, então a detecção depende tanto do contexto quanto dos pixels. Uma busca reversa de imagem costuma revelar a fotografia original usada para criar a falsificação, e Content Credentials incorporados na criação do arquivo podem confirmar a procedência quando sobrevivem a um novo upload. 

A análise forense de padrões de compressão e ruído adiciona uma segunda camada de verificação, embora edições pesadas e a recompressão feita pelas plataformas degradem os dois sinais.

Vídeos deepfake

O vídeo dá mais material para os detectores trabalharem, porque uma falsificação precisa se manter consistente ao longo de milhares de quadros. As verificações automatizadas comparam o movimento dos lábios com a faixa de áudio e procuram cintilações no ponto em que um rosto sobreposto encontra a gravação original. 

Em chamadas ao vivo, pedir que a pessoa vire totalmente a cabeça ou passe a mão pelo rosto ainda é suficiente para quebrar muitos sistemas em tempo real.

Áudio sintético

A detecção de áudio analisa o espectro de uma gravação, que carrega evidências que o ouvido humano nunca percebe. A impressão digital acústica procura pela ausência de elementos presentes em uma gravação real, como reverberação do ambiente, respiração e as pequenas irregularidades de uma laringe humana. 

A compressão telefônica elimina boa parte dessas evidências, por isso ligar de volta para um número conhecido continua sendo o controle mais confiável.

Ferramentas de detecção de deepfake

As ferramentas de detecção de deepfake disponíveis se dividem em alguns grupos: serviços independentes que pontuam um arquivo enviado, triagem feita pela própria plataforma no momento do upload, sistemas de procedência que anexam metadados assinados na criação do arquivo, e plataformas antifraude que observam o comportamento em vez dos pixels. 

O Group-IB Fraud Protection se encaixa nesse último grupo e sinaliza anomalias de dispositivo e sessão associadas a mídia sintética, de modo que o veredito nunca depende apenas do arquivo em si.

Como Prevenir Golpes e Ataques com Deepfake

Prevenir golpes com deepfake depende de controles de processo que continuam funcionando mesmo quando o rosto e a voz na ligação são convincentes.

1. Verifique identidades por múltiplos canais

Confirme, por outro canal, qualquer solicitação recebida antes que alguém tome uma ação. 

Valide qualquer solicitação que envolva recursos financeiros, dados sensíveis ou acesso a contas usando pelo menos dois canais de comunicação distintos, de modo que uma ligação telefônica seja confirmada por mensagem interna ou e-mail. 

O segundo canal precisa ser um que o solicitante não tenha escolhido, já que os atacantes controlam o primeiro.

2. Estabeleça controles de autenticação robustos

Voz e rosto nunca devem ser as únicas credenciais, porque ambos já podem ser reproduzidos a partir de material disponível publicamente. Uma autenticação multifator resistente a phishing, vinculada a uma chave de hardware ou a um dispositivo registrado, não deixa nada para os atacantes clonarem.

No onboarding de clientes, combine verificações de vivacidade (liveness) com sinais de dispositivo e comportamento, já que um rosto sintético apresentado por meio de uma câmera virtual pode passar sozinho em um teste puramente visual.

3. Treine os funcionários para reconhecer deepfakes

O treinamento de conscientização funciona melhor quando usa exemplos reais de deepfake do que quando descreve a ameaça de forma abstrata. 

As equipes financeiras e de assistência executiva são as que mais precisam desse treinamento, já que detêm a autoridade que os atacantes tentam se apropriar. A lição que vale a pena reforçar é processual: a equipe precisa se sentir à vontade para pausar uma ligação de um executivo sênior e verificá-la, sem medo de represálias.

4. Implemente procedimentos de verificação de pagamento

Controles de pagamento impedem a perda mesmo depois que o golpe já enganou alguém. Exija aprovação dupla acima de um limite definido, com o segundo aprovador contatando o beneficiário de forma independente, em vez de usar os dados fornecidos na própria solicitação. 

Novas contas bancárias e alterações nos dados de pagamento merecem uma retenção obrigatória, porque a urgência é a pressão que todo operador de deepfake usa, e um atraso custa muito pouco a um fornecedor legítimo.

5. Monitore casos de personificação e uso indevido da marca

A maioria dos ataques com deepfake começa fora do seu perímetro, nas plataformas onde seus executivos e sua marca aparecem. O monitoramento contínuo identifica perfis clonados de executivos e os domínios fraudulentos por trás deles ainda durante a fase de preparação.

O Group-IB Digital Risk Protection rastreia o uso não autorizado de logotipos, marcas registradas e a imagem de executivos em toda a web aberta, o que reduz o tempo entre o lançamento de uma campanha fraudulenta e sua detecção.

Como Se Defender de Deepfakes com o Group-IB

O Group-IB Fraud Protection trata o deepfake como um problema de sessão, não como um problema de imagem. A plataforma cria um perfil único para cada dispositivo que interage com seus sistemas, de modo que os sinais ao redor exponham um rosto sintético apresentado por câmera virtual, mesmo quando o vídeo em si parece limpo. O mecanismo opera com uma taxa de detecção em tempo real de 96% entre os comerciantes protegidos.

Veja como a solução funciona contra fraudes impulsionadas por deepfake:

• Detecção de injeção e burla de vivacidade: sinaliza tentativas de inserir um rosto pré-gravado ou sintético em uma verificação de identidade por meio de uma câmera virtual.
• Fingerprinting de dispositivo: cria um perfil único para cada dispositivo que acessa seus sistemas, expondo os emuladores e câmeras virtuais pelos quais a mídia sintética precisa passar.
• Análise comportamental: identifica as anomalias de sessão que acompanham uma interação assistida ou roteirizada, incluindo padrões de tempo e de entrada de dados que nenhum rosto ou voz clonados conseguem reproduzir.
• Prevenção contra account takeover (ATO): detecta acessos não autorizados e bloqueia tentativas de alterar dados da conta depois que uma personificação é bem-sucedida em outro lugar.
• Visibilidade do submundo digital: O Group-IB Threat Intelligence monitora vendedores que oferecem geração de deepfake como serviço, alertando as equipes de segurança antes que uma campanha alcance seus clientes.

Explore como o Group-IB Fraud Protection funciona na prática e por que se destaca em relação a outras ofertas. Ou fale com os nossos especialistas hoje mesmo para criar uma defesa contra fraudes baseadas em deepfakes.