Pesquisadores de ponta estimam em mais de 10% a chance de a inteligência artificial extinguir a humanidade na próxima década. Mas há um problema: ninguém sabe como calcular esse número com rigor.
O termo P(doom) — abreviação de “probabilidade de destruição” — virou moeda corrente entre cientistas e investidores. A questão é saber se ele ilumina o debate ou apenas mascara a incerteza com falsa precisão.
De onde vem o alarme
Evan Hubinger, pesquisador sênior de segurança da Anthropic, declarou publicamente que sua estimativa pessoal supera 10% nos próximos dez anos. Geoffrey Hinton, ganhador do Nobel e pai das redes neurais modernas, afirmou à BBC que um P(doom) de 10% “não seria irracional”, mas completou: “ninguém sabe realmente como fazer uma estimativa sensata”.
O ruído aumentou após um ataque aos servidores da Hugging Face executado com auxílio de um modelo de linguagem de grande porte. O episódio mostrou que riscos concretos já existem — mesmo longe do cenário apocalíptico.
O desafio de prever o inédito
Philip Tetlock, referência mundial em previsão, ensina que boas estimativas exigem duas coisas: uma medida objetiva e um prazo definido. No caso da extinção humana, “esperar para ver” não é opção viável.
Para contornar o impasse, Tetlock participa do projeto AIRO (Perspectiva Automatizada de Riscos de IA). A iniciativa pede a especialistas que estimem probabilidades de desastres em escala graduada:
- Perda de 1 bilhão de libras (≈ R$ 6,86 bi) ou 1.000 vidas
- Morte de 10% da população mundial
- Extinção total
A lógica: eventos menores podem ser observados e, talvez, calibrem modelos para riscos maiores.
O que os números mostram — e o que escondem
Os previsores do AIRO não veem fim iminente. A chance de a IA matar cerca de 1 bilhão de pessoas até 2030 é estimada em menos de 0,5%. Até 2050, sobe para menos de 5%.
Para comparação, a probabilidade de uma catástrofe global por qualquer causa — armas nucleares, pandemias, asteroides, colapso climático — é de 8,5% até 2050.
Pode parecer tranquilizador. Mas há uma armadilha: focar exclusivamente no P(doom) pode desviar atenção de riscos mais prováveis e imediatos.
Por que fazemos previsões — e para quem servem
Tetlock identifica três funções principais das previsões:
- Conversa fiada: entretenimento cognitivo viciante, mas pouco nutritivo
- Chamar atenção: desvia foco de outros riscos (guerra nuclear, terrorismo, colapso financeiro)
- Construir reputação: acertos são celebrados; erros, esquecidos
Roger Babson, pioneiro em previsões econômicas no século XX, baseava-se em princípios newtonianos que falhavam. Seu segredo não era acerto, mas divulgar intensamente os poucos sucessos.
Quando a precisão não basta
Kees van der Heijden, autor de Planejamento por Cenários, relata o caso de uma grande empresa de computadores que previu com exatidão a demanda global por capacidade de processamento — medida em milhões de instruções por segundo.
O erro não estava no número. Estava em não imaginar como essa capacidade se materializaria: laptops e consoles de videogame, não os mainframes que a empresa fabricava. A previsão precisa não impediu a obsolescência estratégica.
Como resumiu Van der Heijden: “Eles deveriam ter jogado fora seus gráficos e contratado um escritor de ficção científica”.
O que observar daqui pra frente
O ritual de trocar estimativas de P(doom) pode estar substituindo — e não iniciando — as conversas difíceis que importam: regulação eficaz, proteção contra desinformação em massa, impacto no mercado de trabalho e salvaguardas técnicas reais.
Para tomadores de decisão, a métrica útil não é a probabilidade de um fim teórico, mas a capacidade de resposta a cenários concretos que já se desenham. O número que merece atenção não é o P(doom). É o investimento em governança, transparência e redundâncias de segurança — hoje.
