Uma disputa entre matemáticos expôs uma rachadura perigosa: a inteligência artificial pode estar minando a credibilidade da ciência por dentro. O caso envolve a OpenAI, um problema milenar da física e a suspeita de que dados privados de concorrentes tenham vazado para o modelo. Mas o risco real vai muito além de uma briga corporativa.
Se a base da ciência é a confiança, a IA generativa está se tornando um solvente poderoso. Revistas estão afogadas em papers falsos, revisões por pares escritas por máquinas e “descobertas” que não se sustentam no laboratório.
O estopim: Navier-Stokes e a sombra do Codex
No mês passado, a OpenAI anunciou ter resolvido as equações de Navier-Stokes — um dos “Problemas do Milênio” — em 88 horas. Horas antes, o matemático Tristan Buckmaster tornava público um incômodo: sua equipe usava o Codex, ferramenta da própria OpenAI, para rascunhar a mesma solução.
Buckmaster não acusa, mas questiona: como a notícia do avanço “chegou” à OpenAI? A empresa nega acesso humano ou de IA ao trabalho alheio, mas admitiu inicialmente não poder “descartar” que dados anonimizados de usuários tivessem melhorado o modelo. Dias depois, garantiu que os comandos de Buckmaster “não poderiam ter influenciado o sistema”.
O episódio ilustra um conflito de interesses estrutural: quem controla a infraestrutura de IA também compete na fronteira do conhecimento.
A avalanche de “lixo sintético” nas revistas
O problema mais silencioso — e talvez mais destrutivo — é a inundação de AI slop (conteúdo tosco gerado por IA) no fluxo editorial. Estudos recentes mostram a escala:
- 90% dos artigos biomédicos analisados em 2024 apresentavam marcadores linguísticos de LLMs (estudo de Dmitry Kobak, Universidade de Ghent).
- 147 mil referências inexistentes foram citadas em papers reais apenas no último ano (dados da Universidade Cornell).
- Até 17% dos pareceres em conferências de ciência da computação foram substancialmente reescritos por IA (Stanford).
Detectores automáticos falham — alguns classificaram a Constituição dos EUA como texto de IA —, mas o volume assusta editores. Dalmeet Singh Chawla, jornalista que cobre má conduta há uma década, resume: “As equipes de integridade precisariam aumentar drasticamente para ter chance. No momento, não estão conseguindo”.
Quando a IA acerta (e quando exagera)
Nem tudo é fraude. O AlphaFold, da Google DeepMind, previu a estrutura de 200 milhões de proteínas em um ano — trabalho que levaria centenas de milhões de anos em laboratório. O feito rendeu Nobel de Química e é um “marco histórico”, segundo Pushmeet Kohli, chefe de ciência da DeepMind.
Mas o otimismo tem limites. Ao prever 2,2 milhões de novos cristais (projeto GNoME), a DeepMind falou em “800 anos de conhecimento”. Químicos da UC Berkeley testaram uma amostra e não encontraram “nenhum composto realmente inovador”, apenas adaptações triviais. A DeepMind discorda: trocar um átomo muda tudo, como provam semicondutores e protetores solares.
A lição: a IA acelera a geração de hipóteses, mas a validação experimental continua insubstituível.
O risco da serendipidade perdida
Penicilina, radioatividade, pulsares. Descobertas que mudaram o mundo nasceram de anomalias que um algoritmo otimizado para “padrões esperados” poderia ter deletado como ruído.
Kohli admite: “Agentes de IA atuais ainda são imperfeitos. Alguém precisa assumir a responsabilidade”. A indústria caminha para o conceito de research-grade AI — sistemas onde o humano mantém o controle, entende o que a máquina fez e responde pelo resultado. Não basta pedir o paper pronto e submeter.
O que observar daqui para frente
Editoras como Elsevier e Nature já criam barreiras: centenas de indicadores de risco, veto a imagens geradas por IA, suspensão de quem cita papers fantasmas no arXiv. A corrida agora é técnica e regulatória: criar ferramentas que separem sinal de ruído sintético sem travar a inovação real.
Para o empresário ou investidor, a métrica de valor muda. Não basta financiar “IA para ciência”; é preciso auditar como os dados entram, como as alucinações são filtradas e quem assina embaixo da conclusão. A próxima grande descoberta pode vir de um modelo — mas só se houver um humano atento para não deixar a anomalia passar batida.
