Governo australiano pagou quase US$ 300 mil por relatório feito por IA e cheio de erros
Documento produzido pela Deloitte tinha citações falsas e dados inventados; empresa admitiu o erro
O governo da Austrália descobriu que pagou 440 mil dólares australianos, o equivalente a cerca de 289 mil dólares ou 1,56 milhão de reais, por um relatório repleto de erros produzido com ajuda de inteligência artificial.
O documento, de 237 páginas, foi entregue pela consultoria Deloitte e deveria orientar reformas no sistema de assistência social.
A fraude veio à tona quando o pesquisador Chris Rudge, da Universidade de Sydney, analisou o texto e encontrou mais de 20 referências que não existiam.
Ele identificou decisões judiciais e livros inventados, além de citações acadêmicas falsas. “Instantaneamente soube que era alucinação de IA ou o segredo mais bem guardado do mundo”, afirmou à imprensa australiana.
Após a denúncia, o Departamento de Emprego e Relações de Trabalho confirmou as falhas e cobrou explicações da Deloitte.
A empresa admitiu ter usado a plataforma Azure OpenAI GPT-4o para redigir partes do documento e se comprometeu a revisar o material.
O relatório foi refeito, as citações falsas foram removidas e a consultoria devolveu 97 mil dólares australianos, o equivalente a 64 mil dólares ou 347 mil reais.
A secretária do departamento declarou estar surpresa com a ausência de um pedido de desculpas formal.
O caso provocou reação imediata no Parlamento australiano.
Senadores exigiram regras mais rígidas para o uso de inteligência artificial em contratos públicos e mecanismos de auditoria humana antes da entrega de relatórios.
O contrato da Deloitte envolvia recomendações de políticas sociais e financeiras, baseadas em informações que se mostraram inventadas.
A revelação acendeu um alerta sobre a falta de controle no uso de IA em serviços pagos com recursos públicos. Autoridades locais afirmaram que novas diretrizes já estão em discussão.
Entre as medidas previstas estão a obrigatoriedade de declarar o uso de IA em qualquer etapa da produção e a possibilidade de reembolso integral quando forem identificados erros.
Os comentários não representam a opinião do site; a responsabilidade pelo conteúdo postado é do autor da mensagem.
Comentários (0)