Na quarta-feira da semana passada, a Anthropic anunciou que mantém desde o início deste ano um laboratório de biologia molecular no qual agentes de IA baseados no Claude leem e formulam conjecturas sobre problemas difíceis da área, enquanto cientistas humanos executam experimentos a partir do que esses agentes relatam. Segundo a empresa, esse arranjo produziu sua primeira descoberta: um sistema com 950 agentes que, após 21 horas de trabalho, sinalizou um padrão repetitivo que envolve uma enzima já conhecida e que, de acordo com a Anthropic, ainda não havia sido catalogado.
O que os agentes fizeram de fato
O resultado não é uma sequência de DNA inédita.
Para entender o que a empresa descreve, vale imaginar a consulta a uma biblioteca com milhões de sequências genéticas acumuladas à medida que os cientistas sequenciam o mundo vivo. Um passo rumo a uma descoberta pode ser encontrar uma sequência peculiar que codifique uma enzima interessante.
Depois, é preciso descobrir o que essa enzima faz e como manipulá-la para obter algo útil.
O que os 950 agentes fizeram foi apontar um padrão que se repete ao redor de uma enzima conhecida. No anúncio, a Anthropic descreve esse padrão como algo que lembra o caminho que levou ao CRISPR, a tecnologia de edição genética que transformou a ciência e a medicina.
O tom dá a impressão de um achado bem mais robusto do que ele é.
A reação dos biólogos
A divulgação irritou pesquisadores.
Uma publicação viral no X de um biólogo, depois endossada pelo presidente do conselho e CEO da farmacêutica Eli Lilly, sustenta que encontrar um agrupamento estranho de genes e repetições costuma ser a parte fácil. O difícil, onde surgem as descobertas de verdade, é entender o que o sistema faz.
Em outras palavras, os agentes ajudaram em trabalho de bastidor de laboratório, mas isso não configura uma descoberta.
O caso ficou mais confuso quando Mario Rodríguez Mestre, biólogo da Universidade de Copenhagen, afirmou no fim de semana que sua equipe já havia identificado aquele mesmo padrão, conforme noticiou o The New York Times. Mestre, que conversava com frequência com o Claude em seu trabalho, levantou a dúvida sobre se a equipe da Anthropic teria aprendido algo a partir de suas conversas.
A empresa nega, mas o pesquisador disse que vai parar de usar o Claude.
Por que isso importa
Parte do problema é que as empresas de IA não apresentam seus sistemas apenas como ferramentas que cientistas usam, como microscópios ou supercomputadores. Elas insistem que os sistemas fazem descobertas por conta própria.
Para muitos, essa abordagem é incompatível com a forma como a ciência realmente funciona, com conhecimento novo surgindo de colaboração e de um arsenal crescente de instrumentos.
O efeito colateral é o ceticismo em relação a avanços genuínos.
Reduzir 200 mil candidatos a alguns poucos que merecem investigação não é pouca coisa: é trabalho científico legítimo. Que um chatbot de uso geral consiga fazer isso é notável, mesmo com humanos orientando o processo e executando os experimentos.
Mas, quando o critério passa a ser se o Claude, sozinho, fez uma descoberta, tudo isso vira munição num debate com apenas duas respostas possíveis: avanço revolucionário ou fracasso.
A régua em movimento
O episódio não é isolado.
No início deste mês, a OpenAI afirmou que seus agentes resolveram um problema de matemática que valia um milhão de dólares. Duas semanas depois, céticos circulavam um artigo da Scientific American que perguntava se era realmente aquele o problema matemático que importava.
O texto não dizia que a solução estava errada, e sim que o resultado específico talvez não fosse o que mais interessa aos matemáticos. Somando-se a acusação de um matemático de que os modelos podem ter usado parte de seu trabalho sem crédito, a impressão que fica é a de que a OpenAI trapaceou, ou de que a solução não era importante.
Ou as duas coisas.
O biólogo Lucas Harrington, autor da crítica à Anthropic, encerrou sua publicação com uma sugestão: as empresas de IA deveriam elevar a régua desde já, para que, quando uma IA de fato descobrir um mecanismo biológico fundamentalmente novo, todos percebam a dimensão do feito. Mas, enquanto Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, disputam quem entrega o próximo anúncio, elevar o padrão do que conta como descoberta científica pode ser a última prioridade.
