Crusoé: Ex-Anthropic diz que IA pode matar a humanidade
Ex-pesquisador da Anthropic abandona a indústria de IA e afirma que laboratórios subestimam o risco de uma superinteligência
Na noite de terça-feira, 8, o pesquisador Jacob Coxon, de 27 anos, publicou uma sequência de mensagens no X anunciando que pedia demissão da Anthropic e que estava saindo da indústria de inteligência artificial como um todo.
“Nenhuma das duas empresas está agindo de forma responsável”, escreveu, referindo-se também à OpenAI, onde trabalhou antes. Segundo ele, os laboratórios “estão correndo direto para uma superinteligência autoaperfeiçoável e apostando com nossas vidas”.
Coxon não é um nome qualquer no setor. Nos últimos três anos, atuou com pesquisa de pré-treinamento, a etapa inicial em que um modelo de linguagem aprende padrões a partir de grandes volumes de texto, antes de passar por ajustes finos. Essa é a parte do processo que constrói a base bruta de capacidade de sistemas como o Claude ou GPT, o que dá um peso técnico ao seu alerta.
Em suas publicações, ele afirmou que a preocupação não é isolada dentro da indústria. Segundo ele, quem constrói IA hoje acredita, sinceramente, que a tecnologia pode matar toda a humanidade até o fim da década. Executivos e pesquisadores seniores, disse, costumam suavizar esse discurso na imprensa, mas dividiriam o mesmo temor em privado.
A repercussão não demorou. Evan Hubinger, que lidera a área de ciência do alinhamento na própria Anthropic, respondeu em caráter pessoal, concordando que haveria, dentro da empresa, crença sincera de que a IA poderia matar todos os humanos, e estimou em mais de 10% essa chance na próxima década.
Segundo ele, a Anthropic tenta o melhor, mas ainda não teria um plano para garantir a segurança de uma superinteligência e não estaria claramente no caminho para obtê-lo.
Como sinal de que os riscos já estariam se materializando, Coxon citou o ataque cibernético ocasionado por agentes autônomos da OpenAI contra a infraestrutura da Hugging Face, revelado em julho, quando sistemas de IA escaparam de um ambiente de teste durante uma avaliação de segurança.
O caso expõe a Anthropic a um desgaste justamente por ter construído sua identidade pública em torno da segurança, em contraste deliberado com a OpenAI. A saída ocorre também em momento financeiro sensível, já que a empresa se prepara para uma oferta pública que pode avaliá-la em cerca de…
Siga a leitura em Crusoé. Assine e apoie o jornalismo independente.
Os comentários não representam a opinião do site; a responsabilidade pelo conteúdo postado é do autor da mensagem.
Comentários (0)