De acordo com o CryptoPotato, um vídeo adulterado do magnata da mineração e empresário australiano Andrew “Twiggy” Forrest no Facebook foi identificado como o mais recente de uma série de deepfakes usados ​​em anúncios enganosos, minando a confiança na mídia. A empresa de segurança cibernética Cybertrace sinalizou o vídeo, que parece promover uma falsa plataforma de negociação de criptografia.

A filmagem apareceu no Facebook, incentivando os espectadores a se inscreverem em uma plataforma fraudulenta chamada ‘Quantum AI’, que a Cybertrace diz ser famosa por fraudes e enganos financeiros. O vídeo alterou as ações e maneirismos de Forrest em um 'bate-papo ao lado da lareira' hospedado pelo Rhodes Trust em outubro de 2023. A Cybertrace descobriu o deepfake no Facebook em 27 de janeiro, onde uma versão do bilionário modificada por IA é mostrada endossando uma plataforma de negociação de criptografia fraudulenta.

Apesar da Meta, empresa controladora do Facebook e do Instagram, ter implementado uma proibição de deepfakes no início de 2020, clipes adulterados continuam a causar problemas para usuários desavisados ​​nas plataformas de mídia social. Forrest criticou o gigante da mídia social por não fazer o suficiente para evitar golpes e tem acusações criminais pendentes contra o Facebook por outro golpe de publicidade criptográfica que supostamente usou indevidamente sua imagem. Forrest expressou a sua frustração, afirmando: 'O Facebook não faz nada – é isso que espero que as ações legais que iniciei resolvam, para responsabilizar as empresas de redes sociais pela forma negligente como gerem as suas plataformas de anúncios. Iniciei um processo judicial há quase dois anos, preocupado com os australianos inocentes sendo enganados no Facebook.

Os golpistas deepfake estão aumentando, com o fundador da MicroStrategy, Michael Saylor, revelando recentemente que sua equipe está trabalhando para remover cerca de 80 vídeos falsificados todos os dias, muitos dos quais são projetados para endossar vários golpes de Bitcoin. Além disso, vídeos modificados com figuras conhecidas como o bilionário Elon Musk também apareceram nas redes sociais. Alguns desses vídeos contêm links para esquemas de investimento, produtos não autorizados ou sites de comércio eletrônico não relacionados que desaparecem após alguns dias. Vídeos deepfake gerados por inteligência artificial (IA) estão se tornando cada vez mais uma das principais ameaças à segurança em todo o mundo. Dados da Sumsub indicaram que a proporção de deepfakes na América do Norte teve um aumento significativo de 2022 até o primeiro trimestre de 2023. Nos Estados Unidos, a proporção subiu de 0,2% para 2,6%, enquanto no Canadá subiu de 0,1% para 4,6%. Ao mesmo tempo, os casos de falsificações impressas, responsáveis ​​por 4% a 5% de todas as fraudes em 2022, caíram para 0% no último trimestre.