Em uma antiga fábrica de relógios em Londres, freezers guardam 100 bilhões de genes: matéria-prima para a Basecamp Research criar uma IA que “fale” biologia. O potencial é trilionário, mas um escândalo recente na matemática expôs uma rachadura perigosa: se a ciência perder a confiança, o valor dos dados evapora.
O escândalo que abalou a matemática e expôs a fragilidade dos dados
A OpenAI anunciou ter resolvido em 88 horas um problema das equações de Navier-Stokes que desafia há décadas. Horas antes, o matemático Tristan Buckmaster revelou que sua equipe — que usava o Codex, ferramenta da própria OpenAI — trabalhava na mesma solução. A suspeita: dados de rascunho teriam vazado para o modelo?
A OpenAI negou acesso, mas admitiu inicialmente não poder “descartar” o uso de dados anonimizados. Dias depois, afirmou que os comandos de Buckmaster “não poderiam ter influenciado o sistema”. O dano, porém, estava feito: a suspeita de contaminação entre pesquisa humana e treino de máquina quebrou o protocolo de confiança.
A tsunami de ‘lixo sintético’ inundando as revistas científicas
O problema vai além de um caso isolado. É sistêmico e mensurável:
- 90% dos artigos biomédicos analisados (1 milhão de papers até dez/2023) mostravam rastros de LLMs, segundo Dmitry Kobak (U. Ghent).
- 147 mil estudos inexistentes foram citados em 2023, descobriu a Universidade Cornell.
- Até 17% dos pareceres de revisão por pares em conferências de CS foram substancialmente escritos por IA (Stanford).
Dalmeet Singh Chawla, jornalista que cobre má conduta há uma década, resume: as equipes de integridade precisariam “aumentar drasticamente” para conter a avalanche. “No momento, parece que não estão conseguindo.”
Quando a IA acerta (AlphaFold) e quando exagera (GNoME)
O contraponto brilhante é o AlphaFold (DeepMind/Google): previu 200 milhões de estruturas de proteínas em um ano — trabalho de laboratório estimado em centenas de milhões de anos. Resultado: Nobel de Química e dados abertos.
Mas o otimismo cego cega. No projeto GNoME (novos materiais), a DeepMind anunciou 2,2 milhões de cristais (“800 anos de conhecimento”). Químicos da UC Berkeley amostraram aleatoriamente: “nenhum composto realmente inovador”, apenas adaptações triviais. A DeepMind defende que a troca de um único átomo cria utilidade prática. A lição: validação humana não é opcional.
O risco direto para o capital: desperdício e atraso de ROI
Para o investidor e o gestor, a equação é fria: ciência contaminada queima dinheiro público e privado. Pesquisadores perseguem fantasmas (citações falsas), revisores aprovam alucinações, e terapias reais — novas baterias, drogas oncológicas — atrasam ou nunca saem do papel.
A “pesquisa de baixa qualidade” gera um custo de oportunidade invisível: recursos alocados em validação de lixo sintético em vez de inovação real.
A resposta do mercado: ‘Research-grade AI’ e barreiras de contenção
Grandes players estão se mexendo. A Elsevier desenvolveu 100 indicadores automatizados para sinalizar papers suspeitos para revisão humana pesada. O grupo Nature baniu imagens geradas por IA e vetou revisores de subir manuscritos em LLMs. O arXiv pune com um ano de suspensão quem citar referências inventadas.
Sarah Main (Elsevier) define o novo padrão: “Research-grade AI” — sistemas onde o cientista mantém o controle total, a rastreabilidade é total e a responsabilidade final é humana.
O fator humano: intuição, acaso e a aposta de um sobrevivente
Penicilina, radioatividade, pulsares: descobertas nasceram de “erros” ou anomalias que uma IA otimizada para padrões esperados provavelmente descartaria. A criatividade científica vive no ruído, não apenas no sinal.
A bióloga Andrea Pauli (Vienna BioCenter) provou o modelo híbrido: dez anos estudando fusão espermatozoide-óvulo. Usou IA para filtrar dados, mas a hipótese-chave — proteína “chave-fechadura” no peixe-zebra — veio da intuição humana validada por máquina.
Oliver Vince, da Basecamp, leva isso para o pessoal. Sobrevivente de leucemia, aposta a empresa em curar câncer com IA. “Temos um caminho tecnicamente viável”, diz. Não é promessa; é aposta de quem conhece o outro lado da mesa.
O que observar daqui para frente
Três variáveis definem o próximo ciclo de valor:
- Ferramentas de proveniência: tecnologias (blockchain, watermarks, logs imutáveis) que separem dado humano de sintético na cadeia de custódia.
- Padrões de auditoria: exigência regulatória ou de mercado para “human-in-the-loop” certificado em pesquisas sensíveis (farma, clima, materiais).
- Responsabilidade legal: quem paga quando uma alucinação de IA derruba um ensaio clínico de Fase 3? Seguradoras e contratos já estão sendo redesenhados.
A ciência não acabará. Mas a divisão entre quem usa IA como “oráculo” e quem a usa como “microscópio potente com operador humano” separará os ativos reais das bolhas de hype nos próximos cinco anos.
