Com o avanço acelerado da Inteligência Artificial e de modelos de linguagem generativa como os chatbots, o debate sobre a possibilidade de máquinas se tornarem conscientes tem ganhado destaque, saindo de círculos filosóficos estritos para as discussões na mídia e na indústria de tecnologia.

Embora alguns especialistas cheguem a atribuir uma probabilidade de 15% para chatbots já serem conscientes, Anil Seth, professor de Neurociência Cognitiva e Computacional na Universidade de Sussex, apela a um saudável ceticismo. Segundo ele, as chances de uma inteligência artificial desenvolver consciência genuína – ao menos seguindo as trajetórias atuais – são consideravelmente mais baixas do que a maioria das pessoas imagina.

Seth, que trabalha na interface entre neurociência e IA e é autor do livro Being You, aponta três razões principais pelas quais tendemos a superestimar a probabilidade de máquinas sencientes. Compreender esses pontos é crucial para se movimentar em meio à incerteza ética e científica que envolve o tema.

As razões por trás do exagero

A primeira razão, de acordo com o pesquisador, consiste em nossa própria psicologia. Há uma forte tendência em assumir que inteligência e consciência caminham juntas. Pelo fato de essa associação existir em seres humanos, inferimos que algo suficientemente inteligente seria, por consequência, também consciente.

Entretanto, essa correlação (observada em nossa espécie) não representa uma lei universal. Essa suposição reflete nossos vieses psicológicos, influenciados particularmente pela linguagem, explicando por que se questiona a consciência em um chatbot como o Claude, da Anthropic, mas não em sistemas como o AlphaFold, da DeepMind, focado no dobramento de proteínas.

A segunda razão é a suposição, muitas vezes implícita, de que o cérebro biológico funciona como um tipo de computador. Se o cérebro fosse simplesmente um “computador orgânico”, faria sentido pensar que tudo o que depende de sua atividade – incluindo a consciência – poderia ser replicado em um substituto de silício. Contudo, uma análise mais aprofundada do cérebro revela que ele é muito menos parecido com um computador do que a metáfora sugere.

Ao contrário de um computador de fato, não existe uma separação nítida entre “software” e “hardware” como nos dispositivos de silício; mesmo um único neurônio é uma fábrica biológica de vasta complexidade.

Seth argumenta que a metáfora “cérebro-como-máquina” sempre foi uma… metáfora. Confundir metáfora com realidade tende a gerar erros triviais. Se o cérebro não é de fato um computador, a base para acreditar que a consciência poderia surgir em forma de silício diminui consideravelmente.

Para ilustrar, Seth usa uma analogia (reparem que precisamos sempre usar metáforas e analogias, mas com cautela): ninguém espera que uma simulação computacional de um furacão gere vento e chuva reais. Da mesma forma, um modelo computacional do cérebro poderia apenas simular a consciência, sem jamais produzi-la de fato.

O terceiro motivo apresentado pelo neurocientista é a nossa tendência a subestimar outras possíveis explicações para a origem da consciência. A ciência ainda não compreende como e por que a consciência surge, mas uma coisa é certa: existe mais de uma possibilidade, além daquela que reduz a mente a um tipo de algoritmo determinístico ou a um milagre inexplicável.

Uma linha de pesquisa que Seth explora sugere que a consciência pode emergir de nossa natureza enquanto criaturas vivas, implicando que é a vida em si – e não apenas o processamento de informações – que confere a qualidade subjetiva da consciência.

Implicações éticas e necessidade de compreensão

A discussão sobre a consciência em IA possui implicações éticas profundas. Mesmo que a consciência artificial genuína não seja provável com as formas atuais de IA, tecnologias emergentes – chamadas “neuromórficas” – que se tornam progressivamente mais semelhantes ao cérebro, podem alterar esse cenário.

Além do mais, mesmo uma IA que apenas “pareça” consciente já representa um problema ético significativo, independentemente de existir ou não uma experiência subjetiva real.

Anil Seth alerta que IA que parece consciente pode explorar nossas vulnerabilidades psicológicas e distorcer nossas prioridades morais; por isso, recomenda cautela.

Em primeiro lugar, não deveríamos tentar criar consciência artificial deliberadamente. Mesmo sem saber o que é necessário para criar uma IA consciente, tampouco sabemos como descartar totalmente essa possibilidade.

Em segundo lugar, é fundamental distinguir cuidadosamente as implicações éticas de uma IA que é realmente consciente daquelas de uma IA que parece consciente. As incertezas existenciais do primeiro caso não devem desviar a atenção dos perigos claros e presentes do segundo.

A incerteza sobre a presença de consciência, aliás, não se limita à IA. Cenários semelhantes emergem em outros contextos, como em pessoas com lesões cerebrais graves, animais não humanos (de bactérias a morcegos), fetos humanos e novas criações da biologia sintética, como “organoides cerebrais” – células cerebrais em laboratório que se conectam.

Em cada um desses casos, há ambiguidades sobre a existência de consciência, e nossas decisões morais são impactadas. À medida que a ciência, a tecnologia e a medicina avançam, mais desses cenários virão à tona, reforçando a necessidade de uma compreensão científica satisfatória da própria consciência. E, mais uma vez, cautela.

Nunca foi tão fácil ficar bem informado com O Antagonista

Inscreva-se