Os Deepfakes: O Fim da Confiança?

Um futuro sombrio: Deepfakes em ação

Imagine que você recebe um telefonema de seu filho pedindo ajuda após um acidente de carro. O número de telefone é familiar, a voz soa exatamente como a dele. Você hesita? Quais seriam as suas ações?

Esta é a situação que exploramos em um recente episódio do Cybercrime: O impacto dos Deepfakes na Sociedade.

Os Deepfakes não são apenas um avanço na tecnologia de engenharia social. Eles representam uma mudança radical na forma como os criminosos cibernéticos atuam, colocando em risco a confiança em si.

Um futuro sombrio: O poder dos Deepfakes

Os Deepfakes são a combinação de inteligência artificial (AI) e aprendizado de máquina, que permitem criar conteúdo falso que parece perfeitamente autêntico. Eles podem ser usados para clonar vozes, gerar imagens e vídeos realistas e até mesmo criar personas que imitam comportamentos humanos.

De acordo com especialistas, a criação de um Deepfake convincente não requer mais um laboratório especializado ou uma grande bolsa de investimento. Em muitos casos, um cracker apenas precisa de acesso a ferramentas públicas de código aberto, algumas amostras da voz ou imagem de uma pessoa e uma compreensão básica sobre como as plataformas de AI funcionam.

O resultado é uma ferramenta poderosa para os criminosos, os trapaceiros e os cybercriminosos. Um exemplo notável é o aumento de casos de phishing por voz.

Imagine receber um telefonema de seu filho ou amigo e, à primeira vista, a voz parece perfeitamente familiar. Eles conhecem detalhes pessoais, e a chamada parece vir da conta do celular do amigo. O chamado parece perfeitamente legítimo o suficiente para convencer você de que algo está errado.

O que faria você?

Muitos de nós reagiriam rapidamente, pois tudo parece e ouve legítimo, o que exatamente é o que os atacantes estão contando.

O impacto dos Deepfakes na empresa

Já não é apenas a família e amigos que estão em perigo. Ataques de Deepfakes estão sendo vistos cada vez mais no ambiente empresarial.

Estudos recentes mostram que mais de metade dos especialistas em cibersegurança acreditam que a IA está ajudando mais os criminosos do que os defensores cibernéticos atualmente.

Um exemplo específico é um caso em que um funcionário participou o que parecia ser uma reunião de vídeo oficial. Os executivos pareciam reais e soavam convincentes. As solicitações pareciam urgentes. O único funcionário real participando foi o funcionário.

Isso é onde os Deepfakes se tornam especialmente perigosos. A segurança tradicional normalmente ensina os funcionários a olhar por e-mails suspeitos ou links maliciosos. Deepfakes atacam a confiança em si mesmos, explorando o instinto natural de acreditar no que vemos e ouvimos.

Essa desafio não é apenas financeira.

Campanhas políticas, eleições, figuras públicas, meios de comunicação e instituições estão se tornando mais vulneráveis a conteúdo sintético. Uma Deepfake convincente liberada em momento estratégico pode se espalhar rapidamente nas mídias sociais antes que os verificadores, jornalistas ou a pessoa visada tenham a chance de reagir.

Os convidados do podcast compararam a detecção de Deepfakes a uma corrida armamentista. Atualmente, os pesquisadores buscam por inconsistências sutis: problemas de sincronização de som, movimentos faciais naturais, anomalias na iluminação, artefatos visuais e outras...

Essas são algumas das maneiras como os Deepfakes estão transformando o crime cibernético e por que até mesmo os mais experientes especialistas cibernéticos estão vulneráveis. A detecção de Deepfakes é uma corrida armamentista. Nós devemos estar preparados para proteger a confiança em nós e em nosso mundo.

Se você quer entender como os Deepfakes estão revolucionando o crime cibernético, por que até mesmo especialistas cibernéticos estão vulneráveis, e como podemos proteger a confiança em nós e no nosso mundo, assista a episódio completo do nosso podcast 'Cybercrime From the Frontline'.