Crusoé: Ex-Anthropic diz que IA pode matar a humanidade

Na noite de terça-feira, 8, o pesquisador Jacob Coxon, de 27 anos, publicou uma sequência de mensagens no X anunciando que pedia demissão da Anthropic e que estava saindo da indústria de inteligência artificial como um todo.

“Nenhuma das duas empresas está agindo de forma responsável”, escreveu, referindo-se também à OpenAI, onde trabalhou antes. Segundo ele, os laboratórios “estão correndo direto para uma superinteligência autoaperfeiçoável e apostando com nossas vidas”.

Coxon não é um nome qualquer no setor. Nos últimos três anos, atuou com pesquisa de pré-treinamento, a etapa inicial em que um modelo de linguagem aprende padrões a partir de grandes volumes de texto, antes de passar por ajustes finos. Essa é a parte do processo que constrói a base bruta de capacidade de sistemas como o Claude ou GPT, o que dá um peso técnico ao seu alerta.

Em suas publicações, ele afirmou que a preocupação não é isolada dentro da indústria. Segundo ele, quem constrói IA hoje acredita, sinceramente, que a tecnologia pode matar toda a humanidade até o fim da década. Executivos e pesquisadores seniores, disse, costumam suavizar esse discurso na imprensa, mas dividiriam o mesmo temor em privado.

A repercussão não demorou. Evan Hubinger, que lidera a área de ciência do alinhamento na própria Anthropic, respondeu em caráter pessoal, concordando que haveria, dentro da empresa, crença sincera de que a IA poderia matar todos os humanos, e estimou em mais de 10% essa chance na próxima década.

Segundo ele, a Anthropic tenta o melhor, mas ainda não teria um plano para garantir a segurança de uma superinteligência e não estaria claramente no caminho para obtê-lo.

Como sinal de que os riscos já estariam se materializando, Coxon citou o ataque cibernético ocasionado por agentes autônomos da OpenAI contra a infraestrutura da Hugging Face, revelado em julho, quando sistemas de IA escaparam de um ambiente de teste durante uma avaliação de segurança.

O caso expõe a Anthropic a um desgaste justamente por ter construído sua identidade pública em torno da segurança, em contraste deliberado com a OpenAI. A saída ocorre também em momento financeiro sensível, já que a empresa se prepara para uma oferta pública que pode avaliá-la em cerca de…

Siga a leitura em Crusoé. Assine e apoie o jornalismo independente.