Nos últimos anos, o avanço da tecnologia em inteligência artificial (IA) tem gerado preocupação, especialmente no que se refere à produção e disseminação de deepfakes. Este termo se refere a conteúdos falsos, mas incrivelmente realistas, gerados por IA, que frequentemente são utilizados para criar vídeos pornográficos sem o consentimento das pessoas retratadas.

O fenômeno, que afeta majoritariamente mulheres, levanta debates sobre assédio digital, ética e a necessidade de regulamentação da tecnologia. A pornografia deepfake utiliza a tecnologia de IA para inserir rostos de pessoas em vídeos explicitamente sexuais, causando danos emocionais e reputacionais significativos às vítimas.

O crescimento rápido dos deepfakes

Estudos recentes indicam um crescimento alarmante na quantidade de vídeos deepfake online. De acordo com a empresa Security Hero, houve um aumento de 550% no número de vídeos deepfakes desde 2019. Impressionantemente, 98% desses vídeos têm natureza pornográfica, e 99% das vítimas são mulheres.

Esse crescimento não apenas ilustra a facilidade de acessar tecnologias de deepfake como também a falta de mecanismos eficazes para impedir seu uso indevido. A criação de um vídeo pornográfico falso e realista hoje leva menos de 25 minutos e pode ser feita gratuitamente a partir de uma única imagem nítida da vítima.

Quais são os impactos psicológicos nas vítimas?

A pornografia deepfake provoca danos psicológicos severos. As vítimas frequentemente enfrentam síndrome do pânico, transtorno do estresse pós-traumático (TEPT) e ansiedade. A violação de sua imagem e privacidade pode levar a ideações suicidas e tentativas de autolesão, exigindo muitas vezes tratamento psicológico prolongado.

Casos como o de Almendralejo, na Espanha, onde meninas adolescentes foram vítimas desse tipo de crime, destacam a urgência da questão. As imagens deepfake de meninas de 12 a 14 anos se tornaram virais, levando a extorsão e danos emocionais que podem ser duradouros.

Por que a regulamentação da IA é crucial?

A produção de pornografia deepfake evidencia a necessidade urgente de regulamentação na área da inteligência artificial. Atualmente, em muitos países, essas práticas não são vistas como crimes, deixando as vítimas em uma posição vulnerável e com poucas opções legais. Apenas alguns locais nos Estados Unidos e na Europa têm leis estritas contra esse tipo de violação.

A regulamentação eficaz poderia garantir que artifícios de deepfake sejam usados de forma responsável e ética, protegendo aqueles que são mais afetados por essas práticas: as mulheres e, em muitos casos, menores de idade.

O papel da sociedade e das normas culturais

A proliferação de deepfakes pornográficos é apenas uma parte de um problema mais amplo relacionado à cultura e normas sociais que objetificam o corpo feminino. Essas práticas são sintomáticas de uma sociedade que frequentemente vê as mulheres como objetos visuais, perpetuando estereótipos de gênero e race.

Abordar essas questões requer não apenas medidas legais, mas também uma mudança cultural que promova o respeito e a igualdade de gênero, reduzindo a aceitação de conteúdo que infrinja a dignidade e os direitos das mulheres.