ONU quer estrutura global para governança de IA
Secretário-geral lança fórum com objetivo de mapear e limitar ameaças, além de estabelecer padrões de segurança para a tecnologia em rápida evolução
A Organização das Nações Unidas (ONU) deu partida em um esforço global para estabelecer normas sobre inteligência artificial (IA). O secretário-geral da entidade, António Guterres, anunciou nesta quinta-feira, 25, em Nova York, o Diálogo Global sobre Governança da IA.
A meta é reunir governos e setores para promover a cooperação e limitar os riscos inerentes à rápida evolução tecnológica. Este é o movimento mais amplo feito até agora para buscar uma nova arquitetura de governança e criar regras mínimas para a tecnologia.
Estrutura da governança global para IA
A iniciativa da ONU visa congregar diferentes partes interessadas a fim de debater soluções e formas de colaboração internacional. Encontros formais estão programados para ocorrer em Genebra no ano de 2026 e, posteriormente, em Nova York em 2027. Paralelamente, a ONU iniciará a formação de um painel científico independente, que está sendo comparado ao IPCC do clima.
Esse painel será composto por quarenta especialistas selecionados, incluindo dois co-presidentes, sendo um oriundo de um país em desenvolvimento e outro de um país desenvolvido. O objetivo é alcançar um acordo com força vinculante, seguindo modelos de tratados que já proibiram testes nucleares ou regulamentaram o uso dos mares.
Stuart Russell, professor de ciência da computação da Universidade da Califórnia, sugere que os desenvolvedores demonstrem a segurança de seus produtos. Russell, que dirige o Centro para IA Compatível com Humanos, defende que exigir prova de segurança é uma condição para o acesso ao mercado: “O princípio é simples: assim como fazemos com medicamentos ou usinas nucleares, podemos exigir que desenvolvedores provem a segurança como condição de acesso ao mercado”.
Ambição e desafios da regulamentação
A adoção desta nova arquitetura de governança pela ONU representa a tentativa mais ambiciosa para conter as (reais ou supostas) ameaças que a IA pode apresentar. Tentativas prévias de regulamentação, como as cúpulas organizadas por França, Reino Unido e Coreia do Sul, resultaram apenas em compromissos que não eram obrigatórios. Às vésperas do lançamento do fórum, especialistas de peso, incluindo membros da Anthropic, DeepMind e OpenAI, pediram o estabelecimento de “linhas vermelhas” para a IA até o final de 2026.
O professor Russell sugere que a governança da ONU siga o modelo da Organização Internacional de Aviação Civil. Essa organização coordena reguladores de diferentes países para assegurar padrões de segurança comuns. Em vez de regras estáticas, os diplomatas poderiam desenvolver uma “convenção-quadro” flexível, capaz de se ajustar aos avanços da tecnologia.
A pesquisadora Isabella Wilkinson, do instituto britânico Chatham House, vê os novos órgãos como “um triunfo simbólico” e “de longe, a abordagem mais inclusiva para governar a IA”. Contudo, ela alerta que a burocracia da organização pode resultar em mecanismos “em grande parte inócuos”, dada a velocidade da evolução tecnológica.
Os comentários não representam a opinião do site; a responsabilidade pelo conteúdo postado é do autor da mensagem.
Comentários (0)