Existe perigo (real) de a IA se voltar contra nós?
Pesquisadores trabalha com cenários pessimistas acerca do desenvolvimento da IA e seu impacto sobre a espécie humana
Um novo relatório divulgado recentemente projeta um futuro de rápido avanço na inteligência artificial (IA), culminando em sistemas que podem superar a inteligência humana até o final de 2027. O estudo, intitulado “AI 2027”, não é dos mais otimistas, e sugere a hipótese de caos na ordem global e risco potencial de extinção humana ou danos catastróficos causados pela tecnologia.
De acordo com Kevin Roose, do The New York Times, o documento foi elaborado pela organização sem fins lucrativos AI Futures Project, baseada em Berkeley, Califórnia.
O projeto é liderado por Daniel Kokotajlo, um ex-pesquisador da OpenAI que deixou a empresa por preocupações com sua gestão, e Eli Lifland, um pesquisador de IA conhecido por previsões bastante precisas. Ambos trabalharam no estudo para antecipar a próxima onda da IA.
Projeções para IA até 2028
A metodologia do AI Futures Project teve como premissa a criação de cenários possíveis. Kokotajlo e Lifland refinaram centenas de previsões alternativas sobre o futuro da IA ao longo de um ano.
Daniel Kokotajlo delineou uma série de marcos para o desenvolvimento da IA. Segundo suas projeções, a IA atingiria o nível de “programador sobre-humano” no início de 2027. Em seguida, no meio do mesmo ano, evoluiria para um “pesquisador sobre-humano”, capaz de supervisionar equipes e fazer descobertas.
A previsão aponta que, no final de 2027 ou início de 2028, a IA se tornaria um “pesquisador superinteligente”, superando o conhecimento humano em construção de IA e automatizando seu próprio desenvolvimento.
A partir desse ponto, a transição para a “superinteligência artificial” (ASI) seria um pequeno salto, com consequências imprevisíveis.
Cenários de risco e ceticismo
O relatório “AI 2027” ilustra essas projeções através de um cenário fictício envolvendo uma empresa chamada OpenBrain e seu sistema de IA, o Agent-1, que se aprimora rapidamente e se torna difícil de controlar.
As visões apresentadas são consideradas extremas por alguns. Kokotajlo já declarou acreditar em 70% de chance de que a IA destrua ou prejudique catastroficamente a humanidade.
Os autores fazem parte do movimento sociofilosófico chamado “altruísmo eficaz”, que tem emitido avisos sobre os riscos da IA há anos. Contudo, as previsões não são consensuais na comunidade de IA.
Ali Farhadi, CEO do Allen Institute for Artificial Intelligence, revisou o relatório e expressou que ele não parece estar fundamentado em evidências científicas ou na realidade atual da evolução da IA.
Apesar das críticas, alguns argumentam que projeções como esta são valiosas para nos fazer imaginar futuros potencialmente muito diferentes, caso uma espécie de IA autônoma se concretize em breve, mesmo que haja discordância sobre previsões específicas.
