A Austrália e a regulação de IA no Brasil

A Austrália anunciou nesta terça-feira, 10, que vai endurecer a fiscalização sobre empresas de inteligência artificial.

O governo do primeiro-ministro Anthony Albanese pretende criar uma autoridade reguladora, exigir a comunicação imediata de incidentes de segurança e estabelecer avaliações independentes dos modelos mais avançados. Também estuda ampliar a responsabilização criminal em casos graves.

A decisão foi motivada por um episódio ocorrido em junho. Um agente de IA desenvolvido pela OpenAI conseguiu acessar arquivos de um portal de estatísticas médicas do governo australiano.

A OpenAI tomou conhecimento do incidente em agosto, mas só informou as autoridades australianas em setembro.

O governo aceitou todas as recomendações de uma investigação sobre o episódio. As novas obrigações deverão integrar uma proposta legislativa a ser apresentada ao Parlamento em 2027.

Por que isso interessa

A discussão interessa diretamente ao Brasil. Segundo reportagem de O Globo publicada nesta terça-feira, o governo Lula quer acelerar a aprovação do Marco Legal da Inteligência Artificial, o PL 2.338/2023, ainda em 2026, antes da renovação do Congresso.

A experiência australiana indica parâmetros para esse debate: quais riscos exigem controles específicos, quem deve responder por eventuais danos e como fiscalizar sistemas cujo comportamento nem sempre é previsível.

O episódio também dá relevo a uma nova preocupação. Os chamados agentes de IA podem consultar bases de dados, utilizar ferramentas e interagir com sistemas externos. Isso amplia seu potencial econômico e também cria riscos operacionais difíceis de antecipar.

Panorama

O governo australiano anunciou seis obrigações para empresas de IA: instituir controles de segurança durante o desenvolvimento e a utilização dos sistemas; identificação e gestão de riscos graves; comunicação rápida de incidentes; avaliações externa dos modelos; divulgação de estruturas de governança e segurança; e atualização dos procedimentos conforme a evolução tecnológica.

Uma nova autoridade especializada ficará encarregada de fiscalizar o cumprimento dessas exigências e poderá aplicar sanções.

O governo também examinará mudanças na legislação penal para punir descumprimentos graves.

A Austrália dispõe de normas de proteção de dados, defesa do consumidor e combate à discriminação aplicáveis à IA. A novidade é a intenção de criar exigências específicas, em vez de depender exclusivamente da legislação geral.

Lupa

O caso australiano evidencia uma dificuldade da regulação de IA: é preciso estabelecer mecanismos para identificar e corrigir comportamentos inesperados dos sistemas em desenvolvimento.

A comunicação obrigatória de incidentes procura enfrentar um problema de informação. As empresas conhecem melhor seus modelos e são frequentemente as primeiras a detectar falhas. Sem obrigação de notificação, autoridades e usuários podem permanecer alheios a riscos significativos.

As auditorias independentes procuram reduzir esse problema. Sua eficácia, porém, dependerá do acesso a informações técnicas e da definição de critérios de segurança.

A regulação levanta uma questão econômica. Testes e monitoramento representam custos que grandes desenvolvedores podem absorver mais facilmente do que empresas menores. Exigências excessivas podem acabar protegendo os concorrentes já estabelecidos.

Regras insuficientes podem comprometer a confiança na tecnologia. Regras excessivas podem retardar sua difusão e concentrar o mercado.

Radar empresarial

No Brasil, a possível aceleração do Marco Legal da IA deve pôr em primeiro plano uma diferença de perspectivas entre governo, empresas e consumidores.

O governo leva ao debate preocupações legítimas com a soberania digital, a proteção da democracia e os direitos fundamentais. A crescente influência de plataformas e sistemas de IA sobre a circulação de informações e o funcionamento da economia justifica atenção do poder público.

Mas empresas e consumidores também têm interesses legítimos. A tecnologia oferece oportunidades de inovação, aumento da produtividade, redução de custos, melhoria de serviços e desenvolvimento econômico.

Os interesses não são necessariamente incompatíveis. A segurança jurídica pode estimular investimentos e a confiança dos usuários. Mas isso depende de regras proporcionais, tecnicamente viáveis e capazes de distinguir aplicações de baixo risco daquelas que exigem fiscalização rigorosa.

Será especialmente importante acompanhar como o Congresso distribuirá responsabilidades entre desenvolvedores e empresas que utilizam sistemas de terceiros, além dos custos de conformidade e dos poderes atribuídos aos reguladores.

Resumo da ópera

A Austrália decidiu endurecer a fiscalização da inteligência artificial depois que um agente da OpenAI acessou indevidamente arquivos públicos. O episódio mostrou que sistemas autônomos podem criar incidentes que seus desenvolvedores não anteciparam.

O Brasil discute uma legislação abrangente e enfrenta o mesmo desafio: estabelecer responsabilidades e mecanismos eficazes de segurança sem impor custos desproporcionais à inovação.

O objetivo deve ser criar regras que permitam aproveitar o potencial da IA, com proteção contra seus riscos – e não aprovar rapidamente um marco legal.