Nos EUA, investigadores usam IA para identificar exploração infantil
Ferramenta da Hive AI auxilia na distinção entre imagens geradas por computador e casos que envolvem vítimas reais sob risco imediato
O Centro de Crimes Cibernéticos do Departamento de Segurança Interna dos Estados Unidos formalizou um contrato de US$ 150 mil com a empresa Hive AI. O projeto utiliza algoritmos para reconhecer se materiais de abuso sexual infantil foram produzidos por inteligência artificial generativa. A tecnologia visa filtrar o fluxo de dados para que os agentes concentrem esforços no resgate de vítimas humanas em situações de perigo real.
O uso de sistemas automatizados responde à impossibilidade de análise manual de todo o volume de arquivos coletados em redes internacionais. Dados do Centro Nacional para Crianças Exploradas e Desaparecidas apontam um crescimento de 1.325% em casos ligados à tecnologia generativa em 2024. A prioridade das autoridades é localizar e cessar abusos físicos que ocorrem no momento da investigação.
Triagem de dados em larga escala
De acordo com o governo, “o enorme volume de conteúdo que circula online torna necessária a utilização de ferramentas automatizadas para processar e analisar dados de forma eficiente”. Identificar o que é sintético “garante que os recursos investigativos sejam focados em casos envolvendo vítimas reais, maximizando o impacto do programa e protegendo indivíduos vulneráveis”.
O sistema emprega uma técnica denominada “hashing”, que mapeia dados de objetos conhecidos para impedir o reenvio de arquivos já identificados. Para conteúdos inéditos, a empresa utiliza um detector que analisa padrões de pixels típicos de criações artificiais. O software será calibrado para atender às exigências das investigações de crimes cibernéticos conduzidas pelo órgão federal.
O CEO da Hive AI, Kevin Guo, explica que “há alguma combinação subjacente de pixels nesta imagem que podemos identificar como gerada por IA”. Ele sustenta ainda que o método de detecção da companhia “pode ser generalizável” para diversos contextos de uso. A empresa também desenvolve soluções de moderação para plataformas digitais, incluindo a identificação de violência e spam.
Implementação e fase de testes
A fase de testes da ferramenta terá duração de três meses e ocorre sem processo de licitação competitiva. A escolha da fornecedora baseou-se em estudos da Universidade de Chicago e em contratos prévios de detecção de deepfakes com o Pentágono. Entidades de proteção infantil não emitiram parecer sobre os níveis de precisão para este material.
A tecnologia de detecção é independente de treinamento específico para esse tipo de conteúdo, atuando na estrutura digital da imagem. A Hive AI disponibiliza ferramentas que podem ser integradas por outras empresas para aumentar a segurança em suas plataformas. O objetivo é otimizar a aplicação de verbas e pessoal em situações de risco concreto.
Os comentários não representam a opinião do site; a responsabilidade pelo conteúdo postado é do autor da mensagem.
Comentários (0)