Uma disputa entre matemáticos expôs uma falha silenciosa: a inteligência artificial pode estar contaminando a originalidade das descobertas científicas. O caso envolve a OpenAI e uma equipe independente que usava a ferramenta Codex da empresa. O risco não é apenas ético — ele atinge a base econômica da inovação.
Em março, a OpenAI anunciou ter resolvido um problema aberto das equações de Navier-Stokes em 88 horas. Horas antes, o matemático Tristan Buckmaster revelou que seus rascunhos, armazenados no Codex, poderiam ter vazado para o modelo da empresa. A OpenAI negou acesso, mas admitiu inicialmente não poder “descartar” o uso de dados anonimizados. Dias depois, recuou: os comandos de Buckmaster “não poderiam ter influenciado o sistema”. A investigação segue aberta.
O impacto direto para quem investe em P&D
Se a IA acessa pesquisas não publicadas para “resolver” problemas, o conceito de propriedade intelectual enfraquece. Empresas que financiam P&D interno correm o risco de ver seus avanços absorvidos por modelos treinados em dados de usuários. A confiança — moeda de troca da ciência — passa a ser questionada a cada anúncio de “descoberta” algorítmica.
- 88 horas: tempo que a OpenAI levou para “resolver” o problema de Navier-Stokes.
- 17%: pareceres de revisão por pares em conferências de CS alterados substancialmente por LLMs (estudo Stanford).
- 147 mil: artigos científicos inexistentes citados em 2024 (dados Cornell).
- 90%: artigos biomédicos com indícios de texto gerado por IA até dez/2023 (análise de 1 mi de papers, U. Ghent).
A avalanche de “AI slop” nas revistas
O fenômeno ganhou nome: AI slop — conteúdo tosco gerado em massa. Dmitry Kobak, da Universidade de Ghent, chocou-se com a escala: quase a totalidade da literatura biomédica recente carrega assinaturas de LLMs. Detectores falham (chegaram a classificar a Constituição dos EUA como texto de IA), mas o volume sugere contaminação sistêmica.
Revistas perdem a capacidade de filtrar. Dalmeet Singh Chawla, jornalista que cobre má conduta há uma década, afirma que equipes de integridade precisariam “aumentar drasticamente” para acompanhar. “No momento, parece que não estão conseguindo.”
Quando a IA exagera a própria relevância
O AlphaFold da DeepMind previu 200 milhões de estruturas proteicas em um ano — trabalho que levaria centenas de milhões de anos em laboratório. Nobel de Química merecido. Mas o mesmo modelo anunciou 2,2 milhões de novos cristais, equivalentes a “800 anos de conhecimento”. Químicos da UC Berkeley (Cheetham e Seshadri) testaram uma amostra: nenhum composto verdadeiramente inovador. Muitos, adaptações triviais. A DeepMind discorda: trocar um átomo já criou materiais essenciais, de protetores solares a chips.
O padrão se repete: anúncios grandiosos, validação frágil. O risco não é a IA errar — é a ciência aceitar o erro como descoberta.
A revisão por pares sob ataque
Weixin Liang e James Zou (Stanford) analisaram pareceres de quatro grandes conferências de ciência da computação. Até 17% dos textos tinham sido substancialmente reescritos por modelos de linguagem. O avaliador humano — guardião da qualidade — está sendo substituído por autocomplete.
Na etapa de referências, o problema é outro: a IA inventa citações. A Cornell contou 147 mil papers fantasma citados em 2024. Pesquisadores gastam tempo e verbas públicas perseguindo leads inexistentes. Medicamentos e tecnologias sustentáveis atrasam — ou nunca chegam.
O que as editoras estão fazendo
Medidas emergenciais, ainda incipientes:
- Elsevier: 100 indicadores automáticos para flagrar papers suspeitos e encaminhar para revisão humana reforçada.
- Nature: proíbe imagens geradas por IA; veta revisores de inserir manuscritos em LLMs.
- arXiv: suspensão de um ano para autores que citam referências fabricadas.
Sarah Main, VP da Elsevier, defende a “research-grade IA”: o pesquisador mantém o controle, a máquina apenas acelera. Não é o modelo “entregue o problema, a IA escreve o paper, submeta”.
O que a ciência perde se a intuição for automatizada
Penicilina, radioatividade, pulsares: descobertas nascidas de anomalias que a intuição humana soube valorizar. A IA tende a descartar outliers como ruído. Pushmeet Kohli (DeepMind) admite: “agentes atuais ainda são imperfeitos. Alguém precisa assumir a responsabilidade”. A regra proposta: entender o que o agente fez e responder pelo resultado.
Andrea Pauli (Vienna BioCenter) aplicou o princípio. Dez anos estudando como o espermatozoide penetra no óvulo. IA ajudou a identificar uma proteína-chave no peixe-zebra — mecanismo de “chave e fechadura”. A tecnologia acelerou; a cientista dirigiu.
O que observar daqui para frente
Três variáveis decidirão se a IA fortalece ou corrói a pesquisa:
- Governança de dados: quem acessa o que é inserido em ferramentas como Codex e como isso alimenta modelos proprietários.
- Padrões de validação: exigência de reprodutibilidade experimental antes de aceitar previsões em larga escala (ex.: cristais da DeepMind).
- Incentivos: se o sistema continuar recompensando volume de publicações sobre qualidade, o AI slop vencerá.
Oliver Vince, da Basecamp Research, resume a aposta: “Temos um caminho tecnicamente viável para curar o câncer”. Não é promessa — é possibilidade. A diferença entre avanço real e ruído estatístico será paga por quem souber separar um do outro.
