O espaço publicitário político do Facebook é cada vez mais um playground para golpes deepfake e conteúdo enganoso, com alguns dos principais anunciantes da plataforma fabricando vídeos de políticos dos Estados Unidos prometendo pagamentos inexistentes do governo.
Neste verão, vídeos alterados da secretária de imprensa da Casa Branca, Karoline Leavitt, alegaram que os americanos poderiam reivindicar cheques de alívio de US $ 5.000, redirecionando os usuários para um site chamado Get Covered Today. Vídeos falsos semelhantes mostravam os senadores Elizabeth Warren e Bernie Sanders fazendo promessas idênticas. "Isso não é um truque", afirmou a representação de Warren, embora, na realidade, fosse.
De acordo com uma nova análise do Tech Transparency Project (via The New York Times), 63 anunciantes que usam essas táticas enganosas representaram cerca de um em cada cinco dos 300 maiores gastadores de anúncios políticos do Facebook.
Juntos, eles veicularam quase 150.000 anúncios, gastando quase US$ 49 milhões nos últimos sete anos. Embora muitas dessas contas tenham sido suspensas, mais da metade continuou postando novos anúncios até esta semana.
"A única coisa pior do que esses vídeos de IA deepfake usados para enganar os americanos é o fato de que a Meta ganha dezenas de milhões de dólares com esses anúncios fraudulentos", disse a senadora Warren, pedindo proteções mais rígidas ao consumidor online.
A Meta, dona do Facebook, proíbe anúncios que se passem por funcionários ou empreguem práticas enganosas, alegando fazer cumprir essas regras "vigorosamente" e prometendo investimento em defesas técnicas. No entanto, os críticos dizem que a aplicação da empresa é lenta, amplamente automatizada e reativa, contando com usuários ou pesquisadores para sinalizar golpes.
A ascensão das ferramentas de IA facilitou a criação de anúncios enganosos, e as plataformas de mídia social são agora o principal vetor de fraudes online, superando os golpes por telefone ou texto. Reguladores federais e governos, incluindo Cingapura, estão pressionando a Meta a reprimir, ameaçando multas se a plataforma não agir.
À medida que a receita de anúncios da Meta se aproxima de US$ 160 bilhões por ano, a análise do Tech Transparency Project sugere que o lucro de curto prazo geralmente tem precedência sobre a integridade da plataforma e a segurança do usuário.
"O pêndulo oscilou para mais considerações de receita de curto prazo versus a saúde de longo prazo da plataforma", disse Rob Leathern, ex-funcionário da Meta e especialista em confiança online. "Talvez em algum momento tenha que balançar para o outro lado."
