O governo da Austrália descobriu que pagou 440 mil dólares australianos, o equivalente a cerca de 289 mil dólares ou 1,56 milhão de reais, por um relatório repleto de erros produzido com ajuda de inteligência artificial.

O documento, de 237 páginas, foi entregue pela consultoria Deloitte e deveria orientar reformas no sistema de assistência social.

A fraude veio à tona quando o pesquisador Chris Rudge, da Universidade de Sydney, analisou o texto e encontrou mais de 20 referências que não existiam.

Ele identificou decisões judiciais e livros inventados, além de citações acadêmicas falsas. “Instantaneamente soube que era alucinação de IA ou o segredo mais bem guardado do mundo”, afirmou à imprensa australiana.

Após a denúncia, o Departamento de Emprego e Relações de Trabalho confirmou as falhas e cobrou explicações da Deloitte.

A empresa admitiu ter usado a plataforma Azure OpenAI GPT-4o para redigir partes do documento e se comprometeu a revisar o material.

O relatório foi refeito, as citações falsas foram removidas e a consultoria devolveu 97 mil dólares australianos, o equivalente a 64 mil dólares ou 347 mil reais.

A secretária do departamento declarou estar surpresa com a ausência de um pedido de desculpas formal.

O caso provocou reação imediata no Parlamento australiano.

Senadores exigiram regras mais rígidas para o uso de inteligência artificial em contratos públicos e mecanismos de auditoria humana antes da entrega de relatórios.

O contrato da Deloitte envolvia recomendações de políticas sociais e financeiras, baseadas em informações que se mostraram inventadas.

A revelação acendeu um alerta sobre a falta de controle no uso de IA em serviços pagos com recursos públicos. Autoridades locais afirmaram que novas diretrizes já estão em discussão.

Entre as medidas previstas estão a obrigatoriedade de declarar o uso de IA em qualquer etapa da produção e a possibilidade de reembolso integral quando forem identificados erros.