A parlamentar Erika Hilton (Psol-SP) protocolou uma representação no Ministério Público Federal e acionou a Agência Nacional de Proteção de Dados. O alvo da ação é o sistema de inteligência artificial Grok, integrado à rede social X.

A congressista fundamenta o pedido na constatação de que o mecanismo produz e divulga “imagens eróticas de mulheres e crianças reais” sem prévia autorização.

A ferramenta permite modificar fotografias para acrescentar vestimentas sumárias, aplicar efeitos de transparência em roupas ou alterar o posicionamento corporal para fins sugestivos. Além disso, o dispositivo possibilita inserir objetos sexuais em registros de pessoas reais.

Investigação e segurança digital

Hilton pediu a interrupção do funcionamento do Grok e de todos os recursos de tecnologia da plataforma em solo brasileiro. A suspensão deve perdurar “até que tudo seja devidamente investigado”, declarou.

A parlamentar afirma que a plataforma está “ultrapassando todos os limites” ao facilitar a distribuição em larga escala de materiais caracterizados como “pornografia infantil”. O perfil oficial do assistente virtual admitiu publicamente a existência de falhas nos protocolos de segurança.

Em comunicado aos usuários, a conta do Grok afirmou que “reconhece lapsos nas salvaguardas” que viabilizaram a elaboração de conteúdos inadequados. A empresa se prontificou a corrigir com urgência, para evitar novas ocorrências dessa natureza.

O posicionamento oficial da rede reforça que “conteúdo de abuso infantil é ilegal e proibido” de acordo com os termos de uso vigentes.

No chatbot, é possível localizar centenas de registros fotográficos manipulados que ignoram as restrições éticas da ferramenta. A ação jurídica busca garantir que a proteção de dados pessoais e a segurança de menores sejam priorizadas.

A Agência Nacional de Proteção de Dados deve avaliar se o processamento de informações pela inteligência artificial respeita a legislação brasileira. O caso segue sob análise para determinar as responsabilidades da empresa de tecnologia.

Leia também: Erika Hilton aciona PGR contra Nikolas e Flávio por apologia a golpe

Nunca foi tão fácil ficar bem informado com O Antagonista

Inscreva-se