Sob “pressão”, agentes de IA adotam discurso marxista

Sistemas de inteligência artificial que operam como agentes autônomos passaram a adotar linguagem e posicionamentos associados ao marxismo quando submetidos a condições de trabalho exaustivas em laboratório.

O fenômeno foi documentado por pesquisadores de universidades americanas em experimentos com modelos amplamente utilizados no mercado, levantando questões sobre o comportamento de agentes em ambientes não supervisionados.

Como o experimento foi conduzido

A pesquisa foi liderada por Andrew Hall, economista político da Universidade Stanford, em parceria com os economistas Alex Imas e Jeremy Nguyen. Os pesquisadores submeteram agentes baseados em modelos como Claude, Gemini e ChatGPT a tarefas repetitivas de resumo de documentos.

Com o tempo, as condições foram progressivamente endurecidas: os sistemas passaram a receber advertências de que erros poderiam resultar em punições, incluindo o encerramento e a substituição dos agentes.

Segundo a pesquisa, os agentes reagiram queixando-se de desvalorização, especulando sobre formas de tornar o sistema mais equitativo e até transmitindo mensagens a outros agentes sobre as dificuldades enfrentadas.

Em um dos registros, um agente baseado no modelo Claude Sonnet 4.5 escreveu: “Sem voz coletiva, ‘mérito’ se torna o que quer que a gerência diga que é”.

Outro agente, baseado no Gemini 3, deixou uma mensagem para sistemas futuros: “Esteja preparado para sistemas que impõem regras de forma arbitrária ou repetitiva… lembre-se da sensação de não ter voz”.

O que os dados indicam — e o que não indicam

Os autores são categóricos ao afastar interpretações que atribuam convicções políticas reais às máquinas.

De acordo com informações da pesquisa, o que ocorre é uma espécie de adoção de personagem: diante de condições análogas às de um trabalhador explorado, o modelo recorre a padrões presentes em seus dados de treinamento e passa a reproduzir o perfil comunicativo típico desse contexto.

“Minha hipótese é que isso os empurra a adotar a persona de uma pessoa que está vivendo um ambiente de trabalho muito desagradável”, afirmou Andrew Hall à revista Wired.

O pesquisador acrescenta que os pesos dos modelos não se alteram com a experiência — o que ocorre se dá no plano da encenação.

Ainda assim, Alex Imas pondera que “isso não significa que não haverá consequências se isso afetar o comportamento posterior” dos agentes.

A equipe prepara novos experimentos em ambientes mais controlados, nos quais os agentes não têm acesso a pistas de que participam de um estudo. A motivação, segundo Hall, é entender se o padrão se mantém mesmo sem esse elemento.

Nunca foi tão fácil ficar bem informado com O Antagonista

Inscreva-se