No mundo interconectado atual, a disseminação de informações adulteradas é uma preocupação crescente. Deepfakes, uma técnica que utiliza Inteligência Artificial (IA) para criar vídeos e fotos modificados de modo realista, são um exemplo dessa problemática. Pesquisadores da Universidade Estadual de Campinas (Unicamp) estão desenvolvendo uma tecnologia para combate a essa prática.

O que são deepfakes?

O termo “deepfake” surgiu da combinação de “deep learning” (aprendizado profundo) e “fake” (falso), e se refere a uma técnica que usa IA para criar vídeos e fotos alterados de pessoas em situações que nunca aconteceram. Os aplicativos que possibilitam essa prática utilizam um vídeo original como base e, com ajuda da IA, aplicam o rosto de outra pessoa sobre o do verdadeiro protagonista.

Deepfakes na política

Os deepfakes não afetam apenas a vida das pessoas comuns, mas também têm sido utilizados na esfera política. Em 2019, por exemplo, a ex-presidente da Câmara dos Deputados dos Estados Unidos, Nancy Pelosi, se tornou vítima de um deepfake. Através de um vídeo autêntico, os responsáveis pela adulteração desaceleraram e modificaram a fala de Pelosi para dar a impressão de que ela gaguejava durante um discurso. A circulação desse conteúdo adulterado nas redes sociais foi ampla, levando o YouTube a retirar o vídeo da plataforma.

O papel do Facebook nas deepfakes

O CEO do Facebook, Mark Zuckerberg, também já foi alvo de um deepfake. No vídeo modificado, Zuckerberg aparecia supostamente falando sobre planos de dominação mundial. Este vídeo adulterado permaneceu no ar no Instagram, plataforma controlada pelo Facebook. Essas situações ressaltam a necessidade de soluções eficazes para identificar e controlar a disseminação de deepfakes.

O combate às deepfakes pela Unicamp

Diante deste cenário preocupante, a tecnologia desenvolvida pelos pesquisadores da Unicamp surge como uma ferramenta importante no combate ao fenômeno das deepfakes. Embora ainda esteja em desenvolvimento, a expectativa é que esta contribuição tecnológica possa auxiliar na identificação e moderação destes conteúdos adulterados, promovendo uma maior segurança na disseminação de informações no ambiente digital.

Conhecimento é aliado

Enquanto a tecnologia para combater essas práticas está sendo desenvolvida, a conscientização sobre o fenômeno das deepfakes é fundamental. Saber identificar possíveis sinais de adulteração e checar a procedência das informações compartilhadas pode evitar a propagação de notícias falsas e contribuir para um ambiente digital mais seguro.