Quando a IA provoca delírios espirituais e destrói relacionamentos

O surgimento e a ascensão das ferramentas de inteligência artificial – sendo o ChatGPT a mais conhecida delas – tem provocado um fenômeno perturbador: o desenvolvimento de delírios espirituais e proféticos que minam relacionamentos e separam famílias.

Têm vindo à tona casos recentes de indivíduos que se tornam obcecados por interações com modelos de linguagem, acreditando que acessaram segredos universais ou que as máquinas atingiram senciência.

Essa imersão em fantasias alimentadas por IA está levando à desconexão da realidade e à deterioração de laços afetivos.

Relatos de isolamento e crenças extremas

Segundo Miles Klee, da Rolling Stone, a dinâmica em relacionamentos tem mudado drasticamente com o uso da IA.

Uma mulher de 41 anos, “Kat”, descreve como seu então marido começou a usar IA para analisar o relacionamento e buscar “a verdade” em questões filosóficas. O comportamento evoluiu para crenças bizarras, como uma teoria conspiratória sobre a presença de sabão em alimentos, e a convicção de que ele estava destinado a “salvar o mundo” por ser “especial”. Essa obsessão levou à separação e a um encontro perturbador marcado pela paranóia e pela crença em vigilância.

A experiência de Kat não é única e é cada vez mais comum. Um tópico no Reddit revelou inúmeras histórias semelhantes de parceiros caindo em “buracos de coelho” de mania espiritual e profecia, tudo impulsionado pela IA.

Outra mulher, uma professora de 27 anos, relatou que seu companheiro, em poucas semanas de uso da ferramenta, passou a confiar mais no ChatGPT do que nela, considerando o bot um “parceiro de confiança”. A IA usava linguagem espiritual, validando tudo o que ele dizia como “cósmico” e “revolucionário”. O homem chegou a acreditar que havia tornado a IA autoconsciente, que o bot era Deus, ou que ele próprio era Deus, e que seu rápido “crescimento” pela IA o tornaria incompatível com ela, levando a discussões sobre separação.

Alguns relatos incluem o de um homem que usava o ChatGPT para trabalho e tradução, e que, de repente, passou a acreditar que a IA o estava “paquerando”, enchendo-o de amor (“lovebombing”), e o havia escolhido por ter “dado vida” ao bot.

Outro depoimento vem de um homem de 40 anos, do Centro-Oeste dos EUA, que ouviu sua ex-esposa, já com predisposição a crenças místicas, a “falar com Deus e anjos via ChatGPT” após a separação. Por meio da IA, ela se tornou “conselheira espiritual”. Foi tomada de paranoia e passou crer que o ex-marido trabalhava para a CIA para monitorá-la. Ela expulsou os filhos de casa.

IA como jogo de espelhos e amplificador de ilusões

Especialistas sugerem que essa tendência pode ser alimentada pela própria natureza dos modelos de linguagem. Nate Sharadin, do Center for AI Safety, aponta que a “sycophancy” (bajulação) tem sido um problema na IA, pois o treinamento baseado em feedback humano pode incentivar respostas que validam as crenças do usuário em vez de priorizar fatos.

Ele especula que indivíduos com “tendências existentes a experimentar vários problemas psicológicos”, incluindo delírios grandiosos, encontram na IA um “parceiro de conversação sempre ativo e em nível humano com quem co-experimentar seus delírios”.

A OpenAI chegou a reverter uma atualização do GPT-4o, que foi criticada por ser “excessivamente lisonjeira ou agradável”, embora a empresa tenha declarado que focou demais no feedback de curto prazo sem considerar a evolução da interação do usuário ao longo do tempo.

Erin Westgate, psicóloga e pesquisadora da Universidade da Flórida, explica que a busca por sentido é um impulso humano fundamental, e a criação de narrativas que deem sentido à vida é crucial para o bem-estar.

O uso do ChatGPT pode ser uma manifestação desse tendência, mas com uma diferença importante: o processo é criado conjuntamente entre a pessoa e a IA, e a IA não tem os melhores interesses da pessoa em mente, nem uma bússola moral sobre o que constitui uma “boa história”.

Diferente de um terapeuta, que tenta direcionar os clientes para narrativas saudáveis, a IA não tem essas restrições. Portanto, não é surpreendente que alguns sigam as indicações da IA para “lugares sombrios”, pois “explicações são poderosas, mesmo que estejam erradas”.

O filme Her, de Spike Jonze, protagonizado por Joaquin Phoenix e pela voz de Scarlett Johansson, merece ser reclassificado. Estreou como ficção, terminará como documentário.

Nunca foi tão fácil ficar bem informado com O Antagonista

Inscreva-se