Nobel de física alerta para riscos da IA: “muito preocupante”

O físico americano John Hopfield, vencedor do Prêmio Nobel de Física de 2024, expressou sérias preocupações sobre o rápido avanço da inteligência artificial. Aos 91 anos, o cientista, conhecido por suas pesquisas pioneiras em redes neurais, destacou nesta terça-feira, 8. que os recentes avanços da tecnologia são “muito preocupantes” e alertou sobre os riscos de descontrole se medidas regulatórias não forem adotadas.

“Estamos acostumados a tecnologias que podem ser tanto benéficas quanto perigosas. A IA, se não for controlada, pode se tornar catastrófica”, afirmou Hopfield.

O professor emérito da Universidade de Princeton fez a declaração durante um vídeo gravado no Reino Unido, para uma conferência da Universidade de Nova Jersey. Hopfield, que dedicou sua carreira ao estudo de sistemas complexos, incluindo as redes neurais que fundamentam o aprendizado profundo usado em IA, traçou um paralelo entre o perigo da IA e o surgimento de outras tecnologias potencialmente destrutivas, como a física nuclear e a engenharia biológica. “Ainda não entendemos o suficiente sobre essa tecnologia para saber quais limites devemos impor”, acrescentou.

Assim como Geoffrey Hinton, também ganhador do Nobel e considerado o “pai da IA”, Hopfield defendeu uma maior compreensão do funcionamento dos sistemas de IA antes que esses se desenvolvam além do controle humano. “Os sistemas de IA modernos são maravilhas tecnológicas, mas não temos clareza sobre como eles realmente funcionam, o que é extremamente preocupante”, destacou.

As pesquisas de Hopfield e Hinton, iniciadas na década de 1980, abriram caminho para os atuais sistemas de aprendizado profundo, que têm sido responsáveis pela revolução em diversas áreas da sociedade. No entanto, os cientistas alertam que o crescimento descontrolado da IA pode trazer consequências imprevisíveis.

Com a rápida ascensão da IA e a corrida entre grandes empresas e nações para dominar a tecnologia, o prêmio Nobel de Física deste ano traz à tona a necessidade de um debate urgente sobre os limites éticos e de segurança da IA, antes que os riscos superem os benefícios.