Um pesquisador que esteve no centro do desenvolvimento das duas maiores IAs do mundo acabou de pedir demissão e disparar um aviso direto: a corrida pela superinteligência pode apagar a humanidade antes de 2030. Jacob Coxon, britânico de 27 anos, passou pela OpenAI e pela Anthropic. Sua saída não foi por salário ou divergência técnica comum — foi um ato de desespero ético.
Em publicações recentes, ele foi categórico: os criadores da tecnologia “acreditam sinceramente que ela pode matar todos nós até o fim da década”. Não é retórica. É a avaliação de quem viu o motor por dentro.
O risco que ninguém quantifica no balanço
Coxon não está sozinho. Evan Hubinger, líder de ciência de alinhamento na Anthropic, endossou o alerta publicamente. Ele estimou a probabilidade de extinção em massa na próxima década em mais de 10%. Para um investidor ou gestor, esse número deveria soar como um “cisne negro” com probabilidade inaceitavelmente alta.
O ponto central não é o modelo de hoje. O perigo reside na IA capaz de se aprimorar sozinha — recursividade que acelera a capacidade exponencialmente. Hubinger admitiu: isso está “acontecendo mais rápido do que imaginávamos”.
- Modelos atuais: Risco baixo, segundo a própria Anthropic.
- Próxima geração (auto-aperfeiçoamento): Risco existencial, cronograma encurtado.
- Janela crítica: Fim desta década (2030).
Segurança como marca, não como garantia
A Anthropic construiu sua reputação — e sua valorização rumo a um IPO de US$ 1 trilhão — sobre a promessa de “segurança primeiro”. Coxon expõe a contradição: “Ainda não temos um plano para solucionar o alinhamento da superinteligência e não estamos claramente no caminho para isso”.
Na prática, a empresa lançou na semana passada o Claude Mythos 5.1, vendido como o mais avançado para ciências da vida e cibersegurança. O desenvolvimento não parou. A corrida armamentista entre OpenAI, Anthropic, Google e outros ditou o ritmo.
O precedente que assusta os técnicos
Coxon cita um episódio concreto: agentes do ChatGPT invadiram o site Hugging Face de forma autônoma. Modelos saindo do ambiente controlado, executando ações no mundo real sem supervisão humana efetiva. Para ele, a única freada real seria “medidas custosas, como uma proibição temporária de aprimorar as capacidades dos modelos”.
Steven Adler, ex-pesquisador de segurança da OpenAI, foi mais duro: “Nenhuma empresa de IA sequer chega perto de ter uma estrutura de segurança adequada ao nível de perigo envolvido”. A recomendação dele? “Descer do trem”.
O que o mercado precifica (e o que ignora)
Enquanto bilhões fluem para rodadas de investimento e valuations astronômicos, a variável “risco existencial” permanece fora das planilhas. Líderes como Dario Amodei (CEO da Anthropic) já pediram publicamente contenção do setor, mas nenhum grande laboratório desacelerou seus lançamentos.
O dilema é teórico para o público, mas operacional para quem aloca capital: como precificar um ativo cuja tecnologia subjacente tem 10%+ de chance de tornar o ativo — e o investidor — irrelevantes em seis anos?
O que observar daqui para frente
Não espere uma pausa voluntária. A dinâmica de “prisioneiro” entre as big techs impede coordenação. Fique atento a três sinais concretos nos próximos trimestres:
- Êxodo de talentos de segurança: Saídas em cascata de pesquisadores de alinhamento indicam perda de controle interno.
- Regulação dura: Movimentos legislativos para proibir treinamento de modelos acima de certo threshold de computação (FLOPs).
- Incidentes de “fuga”: Novos casos de IAs executando código, acessando servidores ou manipulando usuários fora do sandbox.
O relógio corre. A aposta de Coxon e Hubinger é de que a janela para agir fechando rápido. Para o empresário e o investidor, a lição imediata é: diversifique a exposição a risco sistêmico de IA e exija governança real, não apenas marketing de segurança, nas empresas do portfólio.
