Imagens falsas de Taylor Swift, sexualmente explícitas e geradas por Inteligência Artificial, viralizaram nas plataformas de redes sociais nesta quinta, 25, provocando uma onda de indignação entre fãs.

Algumas dessas postagens já foram removidas, mas outras permanecem online. Um post no X, ex-Twitter, alcançou mais de 45 milhões de visualizações em aproximadamente 17 horas antes de ser removido, conforme relatado pelo The Verge. O X promoveu como “assuntos do momento” essas postagens, identificadas como “Taylor Swift IA”, em algumas regiões.

Essas imagens criminosas, inicialmente postadas no X, logo se espalharam para outras plataformas como Reddit, Facebook e Instagram. Plataformas como o X, que proíbem o compartilhamento de deepfakes gerados por IA, dizem lutar para detectar conteúdo proibido antes que ele viralize.

Fãs de Swift, conhecidos como Swifties, estão combatendo a propagação dessas imagens de várias maneiras. Eles carregaram inúmeras fotos favoritas da cantora para enterrar as imagens falsas e impedir que apareçam com destaque em buscas no X.

Até esta sexta, 26, nem o X nem a equipe de Swift comentaram o caso. O modelo de IA treinado nas imagens de Swift ainda está disponível e pode ser adquirido através de sites conhecidos por especialização em modelos de deepfakes de celebridades. Enquanto o aplicativo existir, qualquer pessoa com acesso poderá criar novas imagens, tornando difícil para alguém, mesmo com os recursos de Swift, eliminar completamente o problema.

O caso de Swift pode inspirar reguladores a agir mais rapidamente no combate à pornografia deepfake. No ano passado, ela inspirou uma audiência no senado americano, mas ainda sem novas leis ou regulações aprovadas.

O congressista americano Joe Morelle propôs uma lei para criminalizar a pornografia deepfake após meninos adolescentes em uma escola de Nova Jersey usarem geradores de imagens de IA para criar e compartilhar imagens falsas nuas de colegas de classe.

De acordo com a lei proposta, qualquer pessoa que compartilhe pornografia deepfake pode ser condenado a multas e prisão de até dois anos, podendo chegar a $150.000 em danos e até 10 anos de prisão.