Justiça condena X por demora em retirar deepfakes sexuais do ar

A 6ª Turma Recursal Cível do Tribunal de Justiça de São Paulo condenou a plataforma X (antigo Twitter) a pagar indenização de R$ 30 mil a uma mulher que teve imagens sexuais falsas, produzidas por inteligência artificial, divulgadas na rede social. Segundo o Jota, a vítima havia notificado a empresa sobre o conteúdo, mas a remoção não ocorreu de forma imediata.

O juiz Raphael Ernane Neves, da 2ª Vara do Juizado Especial Cível – Vergueiro, apontou que a vítima comprovou ter alertado o X, fornecendo o link do material e explicando a natureza da violação. Apesar disso, a plataforma demorou a remover o conteúdo.

“Sem qualquer dúvida, o requerido falhou e permitiu que o conteúdo promovido por algum usuário em atitude vil e desprezível se tornasse público e amplificado”, afirmou o magistrado.

Plataforma foi considerada corresponsável

A decisão destaca que a imagem trazia conteúdo ilegal de forma evidente, sem necessidade de análise complexa para identificar a violação. Ao não promover a retirada do material, o X tornou-se corresponsável pelos prejuízos que se prolongaram enquanto a publicação permaneceu disponível.

A conduta omissiva da plataforma contribuiu para ampliar o dano, mantendo a vítima exposta de forma contínua e em larga escala. O juiz considerou que o material tinha natureza altamente ofensiva.

Na primeira instância, o dano moral foi fixado em R$ 56.480, equivalente a 40 salários-mínimos, conforme pedido pela defesa. O valor foi considerado proporcional para compensar o abalo sofrido e desestimular a repetição de condutas semelhantes, que fragilizam vítimas de usuários com comportamento desrespeitoso.

Código de Defesa do Consumidor foi aplicado ao caso

O X recorreu da sentença inicial. Na segunda instância, o juiz relator Carlos Alexandre Böttcher manteve a condenação, mas reduziu a indenização para R$ 30 mil. O argumento foi que o novo montante garante satisfação justa à vítima, sem gerar enriquecimento sem causa.

Böttcher afirmou que a responsabilidade da plataforma deriva da facilitação do ilícito pelo ecossistema digital e determinou a aplicação do Código de Defesa do Consumidor: “A plataforma, ao lucrar com a disseminação de dados e ferramentas tecnológicas, deve arcar com os ônus de seu uso indevido quando não impede a exposição da intimidade de seus usuários”, escreveu.

O relator também destacou que permitir a manipulação e exposição vexatória da imagem de uma pessoa, dentro de um ambiente que deveria ser seguro, viola direitos da personalidade e a dignidade humana.

“Ao permitir que sua tecnologia produza e veicule conteúdos que abalam a dignidade da vítima, a plataforma facilita a prática de crime que visa à humilhação da mulher”, disse Böttcher.

Fornecimento de dados do autor foi determinado

A decisão também determinou que o X forneça os dados do usuário que publicou as imagens falsas. A medida foi considerada necessária para que a vítima possa buscar a responsabilização civil e criminal do autor direto do ilícito, conforme previsto no artigo 22 do Marco Civil da Internet.

O advogado Douglas Phillips Freitas, que representou a vítima, avalia a decisão como relevante por priorizar a aplicação do Código de Defesa do Consumidor em relação às redes sociais: “Muita gente acredita que a internet é terra de ninguém, mas na verdade, muitos crimes e atos ilícitos praticados no ‘mundo real’ podem ser aplicados tranquilamente aos atos realizados na esfera virtual”, declarou.

O advogado destacou ainda que a plataforma pode ser responsabilizada quando não age com diligência na proteção de seus consumidores na remoção de deepfakes denunciados.

O processo tramita sob o número 1029948-82.2024.8.26.0016.

Nunca foi tão fácil ficar bem informado com O Antagonista

Inscreva-se