A revolução da inteligência artificial aplicada à biologia abriu uma fronteira perigosa que tira o sono de cientistas e especialistas em biossegurança ao redor do mundo. Ferramentas capazes de desenhar proteínas sob medida, prever a evolução de vírus e auxiliar na criação de novos compostos farmacêuticos podem, nas mãos erradas, acelerar drasticamente o desenvolvimento de armas biológicas inéditas e praticamente indetectáveis.
Uma extensa reportagem publicada pela revista científica Nature ouviu mais de vinte cientistas e pesquisadores de políticas públicas e revelou um consenso preocupante sobre os riscos emergentes. O biólogo estrutural Martin Pacesa, da Universidade de Zurique, na Suíça, resumiu o temor da comunidade científica ao afirmar que, teoricamente, já seria possível desenvolver toxinas no nível da ricina ou de outros agentes letais que seriam virtualmente indetectáveis.
O caso que reacendeu o debate envolve um estudo publicado por cientistas chineses, que desenvolveram uma ferramenta de inteligência artificial para desenhar conotoxinas, pequenas proteínas presentes no veneno de caracóis marinhos para as quais não existe antídoto. O químico computacional Weiwei Xue, da Universidade de Chongqing e coautor do trabalho, defendeu que a pesquisa tem finalidade estritamente farmacêutica, voltada à descoberta de novos medicamentos contra a dor crônica.
A preocupação central, segundo o pesquisador James Black, da Universidade Johns Hopkins, em Baltimore, se divide em duas frentes principais de risco. De um lado, indivíduos operando em laboratórios improvisados podem usar chatbots para aprender a produzir ameaças já conhecidas como o antraz. De outro, atores mais sofisticados, como Estados ou grupos terroristas bem financiados, podem combinar inteligência artificial generalista com softwares biológicos especializados para desenhar armas inteiramente novas.
Um relatório das Academias Nacionais de Ciências, Engenharia e Medicina dos Estados Unidos ofereceu certo alívio ao concluir que ainda existem barreiras significativas para que a inteligência artificial seja usada para potencializar patógenos pandêmicos. A principal limitação é a escassez de dados de alta qualidade conectando propriedades como virulência e transmissibilidade às sequências genéticas dos patógenos, além da dificuldade prática de produzir e testar esses agentes em laboratório.
Um preprint recente já demonstrou, no entanto, que a inteligência artificial conseguiu projetar genomas de vírus inteiramente novos, dos quais cerca de 5% funcionaram quando foram efetivamente sintetizados em laboratório. Os vírus daquele estudo específico foram desenhados para infectar bactérias e não seres humanos, mas o experimento serve como prova de conceito sobre o potencial da tecnologia.
Pesquisadores da gigante tecnológica Microsoft, liderados pelo cientista-chefe Eric Horvitz, conduziram um experimento revelador sobre as falhas dos sistemas de proteção atuais. A equipe usou ferramentas de código aberto para redesenhar 72 moléculas biológicas perigosas e gerou 76 mil variantes sintéticas que conseguiram driblar os filtros de quatro empresas que sintetizam ácidos nucleicos, expondo brechas graves no sistema global de triagem.
Seth Donoughe, diretor de inteligência artificial da organização sem fins lucrativos SecureBio, em Cambridge, demonstrou em pesquisa recente que modelos de linguagem de ponta permitiram a indivíduos com treinamento biológico mínimo igualar ou superar cientistas com doutorado em tarefas como solucionar problemas em protocolos de virologia. O dado expõe um nivelamento perigoso entre amadores e especialistas que pode encurtar drasticamente a curva de aprendizado para a produção de agentes patogênicos.
A questão geopolítica do controle dessas tecnologias é especialmente sensível, já que a China recebe mais de 30% das encomendas globais de síntese de DNA. Segundo Weiwen Zhang, biólogo sintético da Universidade de Tianjin, o governo chinês já solicitou que as empresas de síntese implementem mecanismos de triagem, embora a medida ainda não tenha sido tornada obrigatória por lei.
O biofísico computacional David Baker, da Universidade de Washington, em Seattle, ganhador do Prêmio Nobel por seu trabalho pioneiro em desenho de proteínas, ponderou que os benefícios para o mundo ainda superam amplamente os perigos. Brian Hie, biólogo computacional da Universidade Stanford, na Califórnia, defendeu que a abertura dos modelos contribui para uma maior segurança, já que permite que pesquisadores da área estudem livremente as vulnerabilidades dos sistemas.
O debate sobre como regular essas tecnologias emergentes ainda está longe de um consenso internacional. Enquanto Estados Unidos, União Europeia, Reino Unido e Nova Zelândia estudam exigências obrigatórias de triagem para encomendas de ácidos nucleicos, a maioria absoluta dos países ainda não possui qualquer tipo de regulamentação sobre o tema, deixando lacunas globais que podem ser exploradas por atores mal-intencionados.
Leia também: Inteligência artificial reescreve código da vida e cria bactéria com um aminoácido a menos
📨 Inscreva-se na Newsletter de O Cafezinho
Receba nossas análises e as principais notícias diárias do Brasil e do Sul Global.