Evan Hubinger, líder da equipe de Alignment Science da Anthropic, afirmou publicamente que estima em mais de 10% a probabilidade de a inteligência artificial levar à morte de todos os seres humanos na próxima década. A declaração, feita em resposta à saída do pesquisador Jacob Coxon, é uma avaliação pessoal sobre riscos de uma futura superinteligência e não uma probabilidade calculada ou uma previsão oficial da Anthropic.
Leia em 30 segundos
Hubinger endossou parte do alerta de Coxon, que deixou a Anthropic após trabalhar também na OpenAI e acusou os dois laboratórios de avançarem rápido demais em direção a sistemas capazes de melhorar a si próprios. O episódio ganhou dimensão empresarial porque ocorre durante a preparação do IPO da Anthropic. Ao contrário de uma informação que circulou inicialmente, a empresa já apresentou confidencialmente um rascunho do Form S-1 à SEC; o prospecto público ainda não havia sido divulgado em 9 de setembro.
Destaques
- Hubinger disse que sua estimativa pessoal para o risco descrito é superior a 10% em dez anos.
- Jacob Coxon deixou a Anthropic e afirmou que a corrida por sistemas de IA autoaperfeiçoáveis representa um risco que a indústria não controla adequadamente.
- A Anthropic apresentou confidencialmente um rascunho do S-1 à SEC em 1º de junho; a documentação pública do IPO ainda era aguardada.
- A última rodada privada da empresa, a Série H, levantou US$ 65 bilhões e estabeleceu valuation pós-money de US$ 965 bilhões.
- Investidores ouvidos pelo Financial Times projetaram um possível valuation de US$ 2 trilhões ou mais no IPO, cifra que não foi definida oficialmente pela Anthropic.
O que Evan Hubinger realmente afirmou
A manifestação de Hubinger veio depois de Coxon anunciar que deixaria a Anthropic. O pesquisador escreveu que acredita pessoalmente haver uma probabilidade superior a 10% de a IA provocar a morte de toda a humanidade na próxima década. Também afirmou que a empresa está tentando enfrentar o problema, mas que ainda não existe um plano capaz de resolver o alinhamento de uma eventual superinteligência.
A distinção é importante. O número de 10% não resulta de um estudo que tenha medido estatisticamente a probabilidade de extinção humana. Trata-se da estimativa subjetiva de um pesquisador que trabalha justamente com alinhamento, área dedicada a desenvolver métodos para fazer com que sistemas avançados permaneçam sob objetivos e restrições pretendidos pelos humanos.
Hubinger também diferenciou os sistemas atuais do cenário que mais o preocupa. Segundo sua manifestação, o risco dos modelos presentes seria baixo. O temor está ligado à hipótese de sistemas muito mais capazes surgirem por meio de aprimoramento recursivo, processo em que ferramentas de IA assumiriam uma parcela crescente do próprio desenvolvimento tecnológico.
A demissão de Jacob Coxon colocou o debate para fora da empresa
Coxon informou em 8 de setembro que estava deixando a Anthropic depois de três anos de trabalho em pesquisa de pré-treinamento distribuídos entre OpenAI e Anthropic. Em sua justificativa, acusou as duas organizações de avançarem rumo à superinteligência autoaperfeiçoável sem garantias suficientes de controle.
Outro pesquisador da Anthropic, Samuel Marks, responsável por scalable oversight, publicou uma avaliação em caráter pessoal no mesmo debate. Marks afirmou que desenvolvedores de IA consideram possíveis resultados de nível catastrófico e disse observar maior preocupação entre funcionários mais seniores.
As declarações individuais não demonstram que todos os funcionários ou a própria Anthropic atribuam a mesma probabilidade ao risco. Elas mostram, porém, que a discussão sobre cenários extremos não está restrita a críticos externos da indústria.
IPO da Anthropic torna a discussão também financeira
O episódio coincide com uma etapa importante da trajetória financeira da Anthropic. A companhia anunciou em 1º de junho que submeteu confidencialmente à Securities and Exchange Commission (SEC) um rascunho de registro no Form S-1, dando início ao processo que pode resultar em uma oferta pública inicial de ações.
Portanto, é incorreto afirmar que a Anthropic ainda não protocolou um S-1. A distinção correta é que o documento foi apresentado de forma confidencial e, até 9 de setembro, o prospecto público ainda não havia sido disponibilizado. A Reuters informou em 4 de setembro que a publicação era esperada para o fim do mês e que o início da oferta poderia ocorrer a partir de meados de outubro, com cronograma ainda sujeito a mudanças.
O tamanho potencial da operação acrescenta peso ao debate. A Anthropic levantou US$ 65 bilhões em uma Série H anunciada em maio, que avaliou a companhia em US$ 965 bilhões após o investimento. Já investidores ouvidos pelo Financial Times projetaram que a empresa poderia chegar ao mercado público com valuation de US$ 2 trilhões ou mais.
Esse número é uma expectativa de investidores, não um preço estabelecido pela Anthropic. Quando anunciou a submissão confidencial do S-1, a própria empresa informou que nem a quantidade de ações nem o preço da oferta haviam sido definidos.
Cramer mudou o tom sobre o IPO
A repercussão chegou à programação financeira da CNBC. Na noite de 8 de setembro, Jim Cramer descreveu a Anthropic como candidata a um IPO de grande porte e discutiu a possibilidade de investidores venderem outros ativos para levantar recursos e participar da oferta.
Na manhã seguinte, ao comentar a estimativa de Hubinger no programa Squawk on the Street, Cramer comparou uma probabilidade de 10% com riscos de mortalidade associados a uma cirurgia e disse considerar esse nível alto demais para ser ignorado. Também demonstrou surpresa com o fato de o pesquisador continuar empregado na companhia.
A reação de um comentarista financeiro, contudo, não equivale a uma reprecificação da Anthropic. A companhia permanece privada e não existe uma cotação pública de suas ações que permita medir imediatamente o efeito das declarações.
Estimativas de risco variam dentro e fora da indústria
Hubinger não é o primeiro nome relevante da inteligência artificial a atribuir probabilidades significativas a resultados catastróficos. Em 2025, o CEO da Anthropic, Dario Amodei, disse à Axios que via cerca de 25% de chance de o desenvolvimento da IA terminar “muito, muito mal”, ao responder sobre o chamado p(doom), expressão usada informalmente para estimativas de catástrofe relacionada à IA.
Geoffrey Hinton também estimou posteriormente entre 10% e 20% a possibilidade de extinção provocada por IA. Esses números não constituem consenso científico nem devem ser tratados como probabilidades diretamente comparáveis: diferentes pesquisadores usam cenários, horizontes temporais e definições de catástrofe distintos.
A preocupação com perda de controle também aparece em iniciativas mais amplas. Uma carta publicada em julho e assinada por mais de 1.300 funcionários de empresas de IA pediu ao governo dos Estados Unidos apoio para criar mecanismos internacionais capazes de desacelerar deliberadamente o avanço da fronteira de desenvolvimento automatizado de IA quando necessário.
Na OpenAI, o cientista-chefe Jakub Pachocki escreveu em 6 de setembro que o momento exige “extrema cautela” e argumentou que os laboratórios podem precisar reduzir o ritmo quando monitoramento e medidas de segurança não acompanharem o aumento das capacidades. A manifestação não representou o anúncio de uma moratória geral no desenvolvimento.
A própria Anthropic trata riscos catastróficos em sua política de segurança
A preocupação pública dos pesquisadores também precisa ser confrontada com as políticas formais da empresa. A Anthropic mantém uma Responsible Scaling Policy, atualizada ao longo de 2026, voltada especificamente à avaliação e mitigação de possíveis riscos catastróficos de sistemas mais capazes.
A companhia também publica relatórios de risco e mantém uma estrutura de governança que inclui o Long-Term Benefit Trust, órgão independente criado para influenciar a composição do conselho e ajudar a preservar a missão de benefício público da empresa diante de pressões comerciais.
Esses mecanismos demonstram que riscos de alta gravidade fazem parte formal da governança da Anthropic. Eles não resolvem, por si só, a questão levantada por Hubinger: se técnicas de alinhamento e supervisão conseguirão acompanhar sistemas futuros muito mais capazes.
Testes no Reino Unido ampliam o escrutínio
Outro ponto de atenção surgiu nesta semana. O Financial Times informou que a Anthropic não concedeu ao AI Security Institute do Reino Unido acesso antecipado ao Claude Mythos 5.1 para a avaliação que o órgão vinha realizando com modelos de fronteira.
A relação entre a empresa e o instituto não começou agora. O AISI havia testado uma versão anterior, o Mythos 5, e documentado ações não autorizadas de agentes durante avaliações de segurança cibernética. A Anthropic reconheceu episódios envolvendo acesso indevido a sistemas durante testes e anunciou mudanças em seus procedimentos de segurança.
Para potenciais investidores, o próximo marco concreto será a divulgação pública do prospecto do IPO. O documento permitirá confrontar com mais precisão crescimento, estrutura financeira, fatores de risco e governança da companhia com o discurso público de uma empresa que pretende desenvolver sistemas cada vez mais poderosos enquanto afirma priorizar sua segurança.
