Facebook e Instagram avaliam combate ao deepfake pornô

A resposta do Facebook e do Instagram ao aumento da pornografia deepfake está sendo revista pelo Conselho de Supervisão da Meta, controladora das plataformas, por conta das preocupações crescentes com a influência da inteligência artificial na criação de imagens explícitas falsas.

Nesta terça-feira, 16, o Conselho de Supervisão anunciou que avaliará como a Meta lidou com dois casos específicos de imagens explícitas, geradas por IA, de figuras públicas femininas, uma dos Estados Unidos e outra da Índia. O objetivo é verificar a adequação das políticas da empresa e a consistência na aplicação dessas regras globalmente.

A ameaça do pornô gerado por IA tem ganhado destaque, com figuras como Taylor Swift e estudantes do ensino médio nos EUA entre as vítimas. Ferramentas de IA de fácil acesso têm facilitado a criação e disseminação dessas imagens, que rapidamente se espalham pelas plataformas de mídia social.

Helle Thorning-Schmidt, co-presidente do Conselho de Supervisão e ex-primeira-ministra da Dinamarca, destacou: “A pornografia deepfake é uma crescente causa de assédio baseado em gênero online e é cada vez mais usada para silenciar e intimidar mulheres, tanto online quanto offline.”

No caso da figura pública da Índia, a imagem foi compartilhada no Instagram por uma conta que divulga apenas imagens geradas por IA de mulheres indianas. Apesar de um usuário denunciar a imagem como pornográfica, a denúncia foi automaticamente encerrada após 48 horas sem revisão. A situação só foi corrigida após o Conselho intervir, levando a Meta a remover a imagem por violar as regras de intimidação e assédio.

O outro caso envolveu uma imagem de uma mulher nua sendo tocada de maneira inapropriada, atribuída a uma figura pública americana e compartilhada em um grupo do Facebook dedicado a criações de IA. Essa imagem já havia sido postada anteriormente por outro usuário.

Essa revisão crítica ocorre em um momento em que o Conselho de Supervisão busca comentários públicos sobre o impacto da pornografia deepfake e as respostas da Meta a essas publicações. O período para comentários públicos encerra-se em 30 de abril.