Um dos principais pesquisadores de segurança da Anthropic cravou: a chance de a inteligência artificial exterminar a humanidade na próxima década passa de 10%. O número assusta, mas especialistas em previsão alertam: pode ser apenas ruído estatístico disfarçado de ciência.
O debate saiu dos laboratórios e invadiu as rodadas de investimento. Se o risco é real, a regulamentação urgente vira prioridade estratégica. Se é exagero, bilhões podem ser desperdiçados em “segurança” enquanto ameaças concretas — como desinformação em massa e colapso de modelos de negócio — avançam sem freio.
O que os “superprevisores” dizem sobre o apocalipse
Para tirar o assunto do campo da intuição, o projeto AIRO (Perspectiva Automatizada de Riscos de IA) reuniu especialistas em previsão calibrada. Eles não chutam números; apostam reputação em métricas objetivas. O resultado para 2030 é surpreendentemente baixo:
- Morte de 1 bilhão de pessoas por IA: probabilidade inferior a 0,5%.
- Mesmo cenário até 2050: risco sobe, mas fica abaixo de 5%.
- Catástrofe global por qualquer causa (nuclear, pandemia, asteroide): 8,5% até 2050.
Em resumo: a IA aparece como um risco menor que a soma de todas as ameaças tradicionais combinadas. Mas há um detalhe crucial — esses modelos capturam riscos “observáveis”. O perigo de uma superinteligência desalinhada, por definição, não deixa rastros históricos para calibração.
A armadilha da precisão: quando o número certo leva à decisão errada
Philip Tetlock, pai da “superprevisão”, ensina que previsões vagas servem apenas para conversa de elevador. “A economia pode enfrentar uma crise” não ajuda ninguém. A solução exige métricas claras e prazos fixos. No caso da extinção humana, porém, “esperar para ver” não é uma opção viável de validação.
Kees van der Heijden, guru do planejamento por cenários, ilustrou o perigo décadas atrás. Uma grande fabricante de mainframes previu com exatidão a demanda futura por capacidade de processamento (em MIPS). Acertou o número, mas errou o negócio: não imaginou que essa capacidade migraria para laptops e videogames. A previsão precisa cegou a empresa para a transformação estrutural.
O paralelo com a IA é imediato. Fixar-se no P(doom) pode ser o equivalente a calcular MIPS enquanto o mercado adota uma arquitetura totalmente nova. O tempo gasto debatendo a probabilidade de extinção é tempo não gasto em:
- Regulamentar deepfakes em ano eleitoral.
- Redesenhar contratos de trabalho para a era dos agentes autônomos.
- Auditar viés algorítmico em crédito e saúde.
Por que o “ritual do P(doom)” persiste se a utilidade é duvidosa?
Previsões extremas cumprem funções sociais poderosas — nenhuma delas ligada à gestão de risco corporativo. Elas geram atenção de mídia (marketing barato para laboratórios), turbinam a reputação de quem “acertou” retrospectivamente e funcionam como sinal de virtude tribal: “eu levo a sério, portanto sou responsável”.
Geoffrey Hinton, Nobel de Física e “padrinho” da IA, admitiu à BBC que “ninguém sabe realmente como fazer uma estimativa sensata”. Ainda assim, validou a faixa dos 10%. A frase revela mais sobre a psicologia do medo institucional do que sobre modelagem estatística.
O que observar daqui para a frente
Ignore o número único. Acompanhe a evolução dos indicadores antecedentes que o próprio AIRO monitora: incidentes de perda de controle em ambientes restritos, taxa de sucesso em testes de “enganar o avaliador” e velocidade de replicação autônoma de código malicioso.
Para o tomador de decisão, a métrica relevante não é “qual a chance de todos morrermos”, mas “qual a probabilidade de este modelo vazar dados sensíveis no próximo trimestre” ou “quanto custa segurar a operação contra alucinação em produção”. O fim do mundo é um cenário de planejamento; a falha do modelo na segunda-feira é um problema de fluxo de caixa. Priorize o segundo.
