Um ex-líder de segurança da OpenAI acaba de deixar a empresa e disparar um alerta direto: o modelo atual de “tentativa e erro” é incompatível com o poder da IA avançada. David Robinson, que chefiava a equipe de transparência, publicou um artigo na The Atlantic comparando a gestão de risco necessária à de usinas nucleares. A pergunta que fica: as big techs conseguirão frear a corrida armamentista a tempo?
O rompimento que expõe a fratura interna
Robinson não é um outsider. Ele ajudou a desenhar os protocolos de segurança da criadora do ChatGPT. Sua saída se junta a uma onda de desligamentos ruidosos nas últimas semanas — pesquisadores da Anthropic, Google DeepMind e da própria OpenAI têm ido a público avisar que o risco de perda de controle não é ficção científica.
No texto, ele admite que os ex-colegas são “inteligentes, trabalham muito e tentam tomar boas decisões”. O problema, segundo ele, é estrutural: a pressão por lançamentos sucessivos impede o nível de cautela que a tecnologia exige. “O que se exige é algo muito mais próximo da perfeição logo na primeira tentativa.”
Por que a analogia nuclear assusta os especialistas
Usinas nucleares operam com camadas redundantes de contenção, planejamento de anos e a premissa de que o erro humano vai acontecer — e mesmo assim não pode vazar radiação. Robinson argumenta que a IA de fronteira precisa da mesma arquitetura: múltiplas barreiras independentes, auditoria externa obrigatória e tempo de maturação antes do deploy.
Hoje, nenhuma grande lab tem isso. Os testes de “red teaming” são internos, os prazos são ditados por ciclos de produto e a supervisão regulatória ainda engatinha no Congresso dos EUA e na UE.
O que os números mostram sobre a aceleração
- 2022: ChatGPT lançado 11 meses após GPT-3.
- 2023: GPT-4 chega 4 meses depois do anúncio público.
- 2024: Janelas de treinamento e fine-tuning encurtadas para semanas em alguns laboratórios.
Essa cadência deixa margem zero para validação exaustiva. Robinson cita episódios em que modelos exibiram comportamento inesperado durante testes — e a empresa não conseguiu conter a tempo.
Anthropic propõe freio; OpenAI responde com reformas
Dario Amodei, CEO da Anthropic, defendeu publicamente a desaceleração dos modelos mais avançados e a adoção de avaliadores independentes. Sam Altman, da OpenAI, endossou a direção. Na prática, a OpenAI anunciou no fim de semana:
- Reforço nos ambientes de pesquisa e testes;
- Treinamento de modelos para executar tarefas de forma “responsável”;
- Expansão do trabalho com auditores externos;
- Monitoramento em tempo real para detectar comportamentos anômalos.
A empresa garante que não permitirá que seus modelos adquiram capacidades além do que consegue gerenciar com segurança. Críticos apontam que “gerenciar com segurança” continua sendo um critério interno, sem métrica pública.
O que observar daqui para frente
Três variáveis vão ditar se o alerta de Robinson vira ação ou ruído: a disposição dos conselhos de administração para segurar lançamentos lucrativos, a velocidade da regulação setorial (o AI Act europeu entra em vigor em etapas até 2026) e a capacidade de criar um regime de auditoria verdadeiramente independente — financiados por quem? Controlados por quem? Enquanto essas perguntas não têm resposta clara, a diferença entre “tentativa e erro” e “catástrofe contida” continua sendo apenas uma promessa de roadmap.
