A Advocacia-Geral da União (AGU) notificou o Google, nesta quarta-feira, 1º, para retirar dos resultados de busca sites que utilizam inteligência artificial para produzir imagens íntimas falsas de pessoas reais. A medida dá prazo de cinco dias para a adoção das providências e mira plataformas conhecidas como “nudify”, que simulam nudez sem consentimento.

A notificação foi elaborada pela Procuradoria Nacional da União de Defesa da Democracia (PNDD) e pede duas medidas imediatas. A primeira é a desindexação de sites de “nudificação”, com base em uma lista inicial com mais de 40 links identificados. A segunda é a criação de filtros algorítmicos para impedir que páginas semelhantes voltem a aparecer nos resultados do buscador. A iniciativa se apoia em estudo da Fundação Getulio Vargas do Rio de Janeiro que aponta crescimento do uso dessas ferramentas desde 2023 e indica que mulheres, crianças e adolescentes são as principais vítimas.

No documento, a AGU afirma que “a disponibilidade/indexação dessas ferramentas e sites pelo buscador do Google (…) tem o condão de facilitar o acesso massivo a essas mesmas ferramentas”, ao colocá-las ao alcance de qualquer usuário como se fossem conteúdos comuns.

O órgão também destaca que, embora o Google possua diretrizes próprias para lidar com imagens íntimas não consensuais em seus Termos de Uso, as medidas atuais não têm sido suficientes. Isso porque, segundo a AGU, os sites seguem sendo facilmente encontrados por meio da ferramenta de busca.

A notificação cita ainda pesquisas e relatórios internacionais que apontam o avanço de uma “atmosfera misógina nas redes sociais”, agravada pelo uso de inteligência artificial para criação de deepfakes. Apesar de reconhecer a responsabilidade direta de quem cria e divulga o conteúdo ilícito, a AGU sustenta que plataformas digitais também têm dever de agir.“As empresas têm dever de cuidado”, afirma o órgão, ao defender que conteúdos dessa natureza devem ser removidos mesmo sem notificação prévia, especialmente quando envolvem crimes graves.

A notificação menciona entendimento do Supremo Tribunal Federal (STF) segundo o qual plataformas podem ser responsabilizadas quando, cientes da ilegalidade, não retiram o material do “ar”. Nesse cenário, a omissão pode gerar responsabilização civil.

A AGU também fundamenta sua atuação no dever constitucional de proteção integral à criança e ao adolescente. O documento afirma que cabe ao Estado, à sociedade e à família “pôr a salvo” esse público de qualquer forma de negligência, discriminação, exploração ou violência.

Além disso, o órgão cita o Marco Civil da Internet, a Lei Geral de Proteção de Dados (LGPD), o Código Civil, o Código Penal e o Código de Defesa do Consumidor. Também menciona o chamado Estatuto Digital da Criança e do Adolescente como base para reforçar a necessidade de atuação preventiva das plataformas.