IA potencializa desinformação em campanha pró Rússia

Uma robusta campanha de desinformação alinhada à Rússia de Vladimir Putin, conhecida por codinomes como Operação Overload e Matryoshka, está utilizando ferramentas de inteligência artificial de consumo, disponíveis gratuitamente, para desencadear uma verdadeira “explosão de conteúdo”.

Essa ofensiva digital tem como objetivo intensificar tensões em torno de eleições globais, a guerra na Ucrânia e questões migratórias, buscando semear discórdia em nações democráticas. Segundo David Gilbert, repórter da WIRED que cobriu o tema, a campanha tem como principal alvo a Ucrânia, embora suas atividades se estendam a audiências em todo o mundo, incluindo os Estados Unidos.

A pesquisa revelou um crescimento alarmante na produção de material. Entre julho de 2023 e junho de 2024, foram identificadas 230 peças únicas de conteúdo, que incluem imagens, vídeos, códigos QR e websites falsos. Contudo, nos oito meses seguintes, de setembro de 2024 a maio de 2025, a Operação Overload gerou impressionantes 587 conteúdos distintos, a vasta maioria auxiliada por tecnologias de IA, acumulando milhões de visualizações globalmente.

O salto exponencial na produção é atribuído à facilidade de acesso a ferramentas gratuitas de IA, que permitiram uma tática de “amalgamação de conteúdo”, replicando narrativas por múltiplas mídias. “Isso marca uma mudança para táticas de propaganda mais escaláveis, multilíngues e crescentemente sofisticadas”, escreveram pesquisadores da Reset Tech e Check First no relatório.

Táticas de disseminação

A diversidade do conteúdo produzido pela campanha surpreendeu os estudiosos. Aleksandra Atanasova, principal pesquisadora de inteligência de código aberto na Reset Tech, destacou que a operação não utiliza ferramentas de IA personalizadas, mas sim geradores de voz e imagem baseados em IA disponíveis a todos. Uma ferramenta específica, o Flux AI, um gerador de texto para imagem, foi identificada na criação de imagens falsas, algumas das quais retratavam migrantes muçulmanos supostamente envolvidos em tumultos, levantando sérias preocupações éticas sobre o uso da IA para fomentar estereótipos racistas.

Além disso, a campanha emprega tecnologia de clonagem de voz por IA para manipular vídeos, fazendo com que figuras públicas pareçam dizer coisas que jamais proferiram. Um exemplo notório foi um vídeo falso publicado no X (antigo Twitter) em fevereiro, que mostrava Isabelle Bourdon, pesquisadora da Universidade de Montpellier, supostamente incitando distúrbios e defendendo um partido de extrema-direita alemão.

O conteúdo gerado por IA da Operação Overload é amplamente distribuído por mais de 600 canais no Telegram, além de contas de bot em plataformas como X e Bluesky. Recentemente, o TikTok também se tornou um vetor de disseminação, com 13 contas postando vídeos que alcançaram 3 milhões de visualizações antes de serem desativadas pela plataforma. Apesar de plataformas como Bluesky terem suspendido grande parte das contas fraudulentas, o X tem tomado poucas medidas, conforme apontam os pesquisadores.

Manipulação de agências de checagem de fatos

A campanha também envia e-mails a centenas de organizações de mídia e checagem de fatos, alertando sobre seu próprio conteúdo falso e pedindo verificação. O objetivo, por mais contraintuitivo que pareça, é que o material, mesmo que rotulado como falso, acabe sendo divulgado por veículos de imprensa legítimos, ampliando seu alcance. É aquela coisa: falem bem, falem mal, mas falem de mim.

E a imprensa cai. Desde setembro de 2024, estima-se que até 170.000 e-mails desse tipo foram enviados a mais de 240 destinatários. A capacidade de adaptação e a experiência acumulada desses grupos, que já experimentavam o uso de IA para criar sites falsos, indicam que a onda de conteúdo gerado por IA para fins de desinformação deve continuar, tornando cada vez mais difícil para o público distinguir o real do fabricado.

Nunca foi tão fácil ficar bem informado com O Antagonista

Inscreva-se