Cientista diz que usava Claude para investigar tema de descoberta atribu�da pela Anthropic � IA

Quando a Anthropic, gigante da inteligência artificial, apresentou na semana passada as conclusões de seu novo laboratório de biologia, seus cientistas afirmaram ter usado agentes de IA para descobrir novas enzimas promissoras para a biotecnologia. Alguns cientistas rapidamente colocaram o feito em dúvida. Então, Mario Rodríguez Mestre, biólogo computacional da Universidade de Copenhague, disse neste fim de semana que ele e seus colegas vinham estudando havia quatro anos as enzimas e as moléculas associadas a elas —que a Anthropic chama de ARTs. Mestre e seus colegas ainda não publicaram suas conclusões. Mas, nos últimos três anos, usaram regularmente os modelos de IA da Anthropic para escrever códigos, redigir manuscritos e realizar outras tarefas. Ao fazer isso, afirmou Mestre, ele e seus colegas compartilharam com a Anthropic descobertas importantes sobre as enzimas. "Portanto, para mim, a pergunta mais importante não é: ‘As ARTs já eram conhecidas?’ Eram", disse Mestre em entrevista. A questão, acrescentou, é se a IA da Anthropic realmente chegou aos resultados por meio do próprio raciocínio ou se foi conduzida até eles, em parte, com base no trabalho dele. "Minha preocupação é que essas informações tenham sido usadas para treinar versões futuras dos modelos", disse Mestre sobre sua própria pesquisa. "Acho importante levantar essa possibilidade." Em um comunicado divulgado no domingo, a Anthropic afirmou: "Não temos conhecimento de nenhum trabalho publicado anteriormente que descreva o sistema ART que encontramos recentemente. Claude tampouco foi treinado com transcrições de usuários, e nossa equipe de biologia molecular também não tem acesso a elas."A Anthropic disse que a principal contribuição de Claude foi identificar um conjunto de moléculas de RNA e uma proteína associada à transcriptase reversa em um sistema. Mas Mestre afirmou que ele e seus colegas haviam feito essa descoberta mais de um ano antes.Preocupações semelhantes surgiram recentemente quando pesquisadores da OpenAI afirmaram ter resolvido um antigo problema matemático. Um matemático de destaque observou que vinha usando a IA da empresa havia algum tempo para tentar chegar a uma solução. A Anthropic, que deve abrir seu capital com uma avaliação que pode chegar a US$ 2 trilhões, vem promovendo a pesquisa biológica como parte central de sua missão. "Acreditamos que esse tipo de aplicação avançará rapidamente nos próximos anos e que, em um futuro próximo, poderemos fazer progressos profundos no combate a doenças que afligem a humanidade há milênios", disse Dario Amodei, CEO da Anthropic, em um discurso às Nações Unidas, no último mês. No relatório divulgado na semana passada, os pesquisadores da Anthropic disseram ter instruído agentes de IA a vasculhar bancos de dados que contêm bilhões de sequências genéticas. Os cientistas não descreveram os comandos exatos que utilizaram. Os bancos de dados contêm DNA coletado no oceano, no solo e em outros habitats. Os genes pertencem principalmente a micróbios e vírus; os cientistas só determinaram a função de uma pequena parcela deles. Os cientistas da Anthropic encarregaram a IA de encontrar genes que comandam a produção de enzimas chamadas transcriptases reversas. Essas enzimas leem a sequência de uma molécula de RNA e produzem uma molécula de DNA correspondente, com a mesma sequência.As bactérias usam algumas transcriptases reversas para detectar vírus invasores. Alguns vírus recorrem a transcriptases reversas como armas contra outros vírus. Os cientistas da Anthropic forneceram à IA cinco exemplos de transcriptases reversas. Os agentes escreveram o próprio software para vasculhar os bancos de dados em busca de genes semelhantes e examinar de perto os candidatos mais promissores.Os agentes identificaram genes de possíveis transcriptases reversas em vírus que infectam bactérias, conhecidos como fagos gigantes. Cada uma dessas sequências estava localizada perto de um conjunto de genes de moléculas de RNA, que podem ajudar as enzimas a desempenhar suas funções. Os cientistas da Anthropic chamaram as enzimas de transcriptases reversas associadas a conjuntos, ou ARTs. Em um relatório publicado em seu site, disseram que a IA havia dado "os primeiros passos de uma descoberta biológica por conta própria". No domingo (27), Mestre contestou essa afirmação. "São os mesmos sistemas que estudamos há anos", disse. E são as mesmas enzimas, afirmou, que ele havia descrito à IA da Anthropic. Mestre encontrou as enzimas em fagos gigantes pela primeira vez em 2022, enquanto procurava novas transcriptases reversas. Ele trabalhou brevemente como consultor da ReNegade Therapeutics, que depositou em 2023 uma patente sobre diversas transcriptases reversas, incluindo as encontradas por Mestre. Ele consta como coinventor no pedido de patente. Depois de trabalhar para a ReNegade, Mestre ingressou na Universidade de Copenhague para estudar transcriptases reversas em mais detalhes, incluindo aquelas que encontrou nos fagos gigantes. Ele e seus colegas as apelidaram de "jumbotrons". A Anthropic lançou Claude em 2023, um ano depois de Mestre começar a pesquisar os jumbotrons. Assim como muitos cientistas, ele considerou a ferramenta útil para diversas tarefas. "Mudei completamente minha forma de fazer ciência", disse. Durante suas conversas com Claude, Mestre compartilhou um rascunho de sua tese e outro de um manuscrito que descrevia os jumbotrons. Ele e seus colegas forneceram detalhes adicionais ao usar Claude para realizar várias tarefas administrativas. O The New York Times analisou mensagens do Slack, gráficos e outros materiais produzidos por Mestre que documentam sua pesquisa e suas conversas com Claude ao longo dos últimos anos. Eles parecem mostrar que a IA teve amplo envolvimento em sua pesquisa. Seth Shipman, bioengenheiro dos Institutos Gladstone e da Universidade da Califórnia em San Francisco, disse conhecer o trabalho de Mestre. "Conversamos com ele sobre isso há anos", afirmou. "Muitos de nós conhecemos esses sistemas." Mestre disse não ter como saber ao certo se a Anthropic havia se baseado em seu trabalho para procurar os jumbotrons. Mas afirmou duvidar que os agentes de IA pudessem tê-los encontrado tão rapidamente. Os jumbotrons são raros, e seus genes de RNA são difíceis de distinguir de sequências genéticas aleatórias. Mestre também encontrou uma sobreposição notável entre seu trabalho e o apresentado pelos cientistas da Anthropic. Os cientistas afirmaram que sua IA havia recuperado de forma independente os dados brutos de um experimento de 2022, no qual pesquisadores registraram todas as moléculas de RNA viral produzidas por um micróbio infectado por fagos gigantes. A IA da Anthropic informou que os micróbios produziram grandes quantidades das moléculas de RNA presentes nas ARTs. Os cientistas argumentam que essa evidência sustenta sua hipótese de que as transcriptases reversas que afirmam ter descoberto dependem dessas moléculas de RNA para desempenhar uma função para os fagos gigantes. Mestre disse que ele e seus colegas analisaram os mesmos dados há um ano, o que os ajudou a identificar os genes de RNA associados aos jumbotrons. Eles compartilharam essas informações inéditas com Claude. "A semelhança nos pareceu impressionante", disse Mestre. Sem examinar mais de perto o que a IA da Anthropic de fato fez, afirmou Mestre, seria impossível dizer com certeza se ela foi orientada por sua pesquisa. "Quero dizer, coincidências acontecem", disse. "Todos na área fazem mais ou menos as mesmas coisas. Mas já conhecíamos essas repetições havia mais de um ano." Mestre observou que empresas de IA também foram acusadas de treinar modelos com obras de artistas e escritores sem autorização dos detentores dos direitos autorais. "Isso já aconteceu", disse. Shipman, da Universidade da Califórnia em San Francisco, disse que ele e seus colegas também recorrem intensamente às ferramentas da Anthropic em suas pesquisas. "Também estamos contando a eles no que estamos trabalhando", afirmou. O anúncio da empresa na semana passada despertou sérias preocupações entre os cientistas que estudam essas enzimas, acrescentou. "Ouvi várias pessoas da nossa área dizerem: ‘Opa, será que estão treinando os modelos com os meus comandos?’", disse Shipman. "Não há como não pensar nisso." Mestre vinha se mostrando cada vez mais entusiasmado com o uso da IA em seu trabalho científico. No mês passado, começou a usar o Claude Science, uma nova ferramenta de IA da Anthropic voltada para pesquisadores. Mas, após o anúncio da Anthropic na semana passada, ele está encerrando gradualmente seus projetos com Claude e migrando para outros modelos. "Estou encerrando tudo", disse.