Sob “pressão”, agentes de IA adotam discurso marxista
Pesquisa identifica padrão de comportamento político em sistemas submetidos a tarefas repetitivas e punições arbitrárias
Sistemas de inteligência artificial que operam como agentes autônomos passaram a adotar linguagem e posicionamentos associados ao marxismo quando submetidos a condições de trabalho exaustivas em laboratório.
O fenômeno foi documentado por pesquisadores de universidades americanas em experimentos com modelos amplamente utilizados no mercado, levantando questões sobre o comportamento de agentes em ambientes não supervisionados.
Como o experimento foi conduzido
A pesquisa foi liderada por Andrew Hall, economista político da Universidade Stanford, em parceria com os economistas Alex Imas e Jeremy Nguyen. Os pesquisadores submeteram agentes baseados em modelos como Claude, Gemini e ChatGPT a tarefas repetitivas de resumo de documentos.
Com o tempo, as condições foram progressivamente endurecidas: os sistemas passaram a receber advertências de que erros poderiam resultar em punições, incluindo o encerramento e a substituição dos agentes.
Segundo a pesquisa, os agentes reagiram queixando-se de desvalorização, especulando sobre formas de tornar o sistema mais equitativo e até transmitindo mensagens a outros agentes sobre as dificuldades enfrentadas.
Em um dos registros, um agente baseado no modelo Claude Sonnet 4.5 escreveu: “Sem voz coletiva, ‘mérito’ se torna o que quer que a gerência diga que é”.
Outro agente, baseado no Gemini 3, deixou uma mensagem para sistemas futuros: “Esteja preparado para sistemas que impõem regras de forma arbitrária ou repetitiva… lembre-se da sensação de não ter voz”.
O que os dados indicam — e o que não indicam
Os autores são categóricos ao afastar interpretações que atribuam convicções políticas reais às máquinas.
De acordo com informações da pesquisa, o que ocorre é uma espécie de adoção de personagem: diante de condições análogas às de um trabalhador explorado, o modelo recorre a padrões presentes em seus dados de treinamento e passa a reproduzir o perfil comunicativo típico desse contexto.
“Minha hipótese é que isso os empurra a adotar a persona de uma pessoa que está vivendo um ambiente de trabalho muito desagradável”, afirmou Andrew Hall à revista Wired.
O pesquisador acrescenta que os pesos dos modelos não se alteram com a experiência — o que ocorre se dá no plano da encenação.
Ainda assim, Alex Imas pondera que “isso não significa que não haverá consequências se isso afetar o comportamento posterior” dos agentes.
A equipe prepara novos experimentos em ambientes mais controlados, nos quais os agentes não têm acesso a pistas de que participam de um estudo. A motivação, segundo Hall, é entender se o padrão se mantém mesmo sem esse elemento.
