Los sistemas de descubrimiento de drogas de IA podrían reutilizarse para fabricar armas químicas, advierten los investigadores
En 2023, Collaborations Pharmaceuticals, una empresa que se especializa en buscar nuevos candidatos a fármacos para enfermedades raras y transmisibles, recibió una solicitud inusual. Se le pidió a la firma privada de Raleigh, NC, que hiciera una presentación en una conferencia internacional sobre armas químicas y biológicas. La charla abordó cómo el software de inteligencia artificial, que generalmente se usa para desarrollar medicamentos para tratar, por ejemplo, el síndrome de Pitt-Hopkins o la enfermedad de Chagas, podría desviarse para fines más nefastos.
Al responder a la invitación, Sean Ekins, director ejecutivo de Collaborations, comenzó una lluvia de ideas con Fabio Urbina, científico senior de la empresa. No pasó mucho tiempo antes de que se les ocurriera una idea: ¿Qué pasaría si, en lugar de usar datos de toxicología animal para evitar efectos secundarios peligrosos de un medicamento, Collaborations pusiera a trabajar su software MegaSyn basado en inteligencia artificial para generar un compendio de moléculas tóxicas que fueran similar a VX, un notorio agente nervioso?
El equipo ejecutó MegaSyn durante la noche y encontró 40,000 sustancias, incluidas no solo VX sino también otras armas químicas conocidas, así como muchas sustancias potencialmente tóxicas completamente nuevas. Todo lo que necesitó fue un poco de programación, datos de código abierto, una computadora Mac 2015 y menos de seis horas de tiempo de máquina. “Simplemente se sintió un poco surrealista”, dice Urbina, remarcando cómo el resultado del software fue similar al proceso de desarrollo de fármacos comerciales de la compañía. «No fue diferente de algo que habíamos hecho antes: usar estos modelos generativos para generar nuevos medicamentos esperanzadores».
Collaborations presentó el trabajo en Spiez CONVERGENCE, una conferencia en Suiza que se lleva a cabo cada dos años para evaluar las nuevas tendencias en la investigación biológica y química que podrían representar amenazas para la seguridad nacional. Urbina, Ekins y sus colegas incluso publicaron un comentario revisado por pares sobre la investigación de la compañía en la revista. Naturaleza Máquina Inteligencia—y pasó a dar un informe sobre los hallazgos a la Oficina de Política Científica y Tecnológica de la Casa Blanca. “Nuestro sentido es que [the research] podría constituir un trampolín útil para el desarrollo de políticas en esta área”, dice Filippa Lentzos, codirectora del Centro de Estudios de Ciencia y Seguridad del King’s College de Londres y coautora del artículo.
El extraño parecido con el trabajo rutinario del día a día de la empresa era sorprendente. Los investigadores habían utilizado previamente MegaSyn para generar moléculas con potencial terapéutico que tienen el mismo objetivo molecular que VX, dice Urbina. Estos medicamentos, llamados inhibidores de la acetilcolinesterasa, pueden ayudar a tratar enfermedades neurodegenerativas como el Alzheimer. Para su estudio, los investigadores simplemente le pidieron al software que generara sustancias similares a VX sin ingresar la estructura exacta de la molécula.
Muchas IA de descubrimiento de fármacos, incluida MegaSyn, utilizan redes neuronales artificiales. “Básicamente, la red neuronal nos dice qué caminos tomar para llegar a un destino específico, que es la actividad biológica”, dice Alex MacKerell, director del Centro de Diseño de Medicamentos Asistido por Computadora de la Facultad de Farmacia de la Universidad de Maryland, quien no participó en la investigación. Los sistemas de IA «puntúan» una molécula en función de ciertos criterios, como qué tan bien inhibe o activa una proteína específica. Una puntuación más alta les dice a los investigadores que es más probable que la sustancia tenga el efecto deseado.
En su estudio, el método de puntuación de la empresa reveló que muchas de las nuevas moléculas generadas por MegaSyn se predijeron que eran más tóxicos que VX, una realización que hizo que tanto Urbina como Ekins se sintieran incómodos. Se preguntaron si ya habían cruzado un límite ético al ejecutar el programa y decidieron no hacer nada más para reducir computacionalmente los resultados, y mucho menos probar las sustancias de ninguna manera.
“Creo que su intuición ética era exactamente correcta”, dice Paul Root Wolpe, bioeticista y director del Centro de Ética de la Universidad de Emory, que no participó en la investigación. Wolpe escribe y reflexiona con frecuencia sobre temas relacionados con tecnologías emergentes como la inteligencia artificial. Una vez que los autores sintieron que podían demostrar que se trataba de una amenaza potencial, dice, “su obligación era no llevarla más allá”.
Pero algunos expertos dicen que la investigación no fue suficiente para responder preguntas importantes sobre si el uso de software de IA para encontrar toxinas podría conducir prácticamente al desarrollo de un arma biológica real.
“El desarrollo de armas reales en programas de armas anteriores ha demostrado, una y otra vez, que lo que parece posible teóricamente puede no ser posible en la práctica”, comenta Sonia Ben Ouagrham-Gormley, profesora asociada del programa de biodefensa de la Escuela de Política y Gobierno Schar. en la Universidad George Mason, que no participó en la investigación.
A pesar de ese desafío, la facilidad con la que una IA puede generar rápidamente una gran cantidad de sustancias potencialmente peligrosas aún podría acelerar el proceso de creación de armas biológicas letales, dice Elana Fertig, directora asociada de ciencias cuantitativas en el Centro Integral del Cáncer Sidney Kimmel en Johns Hopkins. University, que tampoco participó en la investigación.
Para dificultar que las personas hagan un mal uso de estas tecnologías, los autores del artículo proponen varias formas de monitorear y controlar quién puede usar estas tecnologías y cómo se usan, incluidas listas de espera que requerirían que los usuarios se sometan a un proceso de preselección para verificar sus credenciales. antes de que pudieran acceder a modelos, datos o códigos que podrían ser mal utilizados fácilmente.
También sugieren presentar al público las IA de descubrimiento de fármacos a través de una interfaz de programación de aplicaciones (API), que es un intermediario que permite que dos piezas de software se comuniquen entre sí. Un usuario tendría que solicitar específicamente datos de moléculas de la API. En un correo electrónico a Científico americano, Ekins escribió que una API podría estructurarse para generar solo moléculas que minimizarían la toxicidad potencial y “exigirían a los usuarios [apply] las herramientas/modelos de una manera específica.” Los usuarios que tendrían acceso a la API también podrían estar limitados y se podría establecer un límite para la cantidad de moléculas que un usuario podría generar a la vez. Aún así, Ben Ouagrham-Gormley sostiene que sin demostrar que la tecnología podría fomentar fácilmente el desarrollo de armas biológicas, tal regulación podría ser prematura.
Por su parte, Urbina y Ekins ven su trabajo como un primer paso para llamar la atención sobre el tema del mal uso de esta tecnología. “No queremos presentar estas cosas como malas porque en realidad tienen mucho valor”, dice Ekins. “Pero tiene ese lado oscuro. Existe esa nota de precaución, y creo que es importante tenerla en cuenta”.
