AI está expandiendo nuestro universo de proteínas. Gracias a la generación de IA, ahora es posible diseñar proteínas nunca antes de que se vean en la naturaleza a la velocidad del vertido vertiginoso. Algunos son extremadamente complejos; Otros pueden etiquetar en ADN o ARN para cambiar la función de una célula. Estas proteínas podrían ser una ventaja para el descubrimiento de medicamentos y ayudar a los científicos a enfrentar desafíos de salud apremiantes, como el cáncer.
Pero, como cualquier tecnología, el diseño de proteínas asistido por IA es una espada de doble corte.
En un nuevo estudio dirigido por Microsoft, los investigadores mostraron que el software actual de detección de bioseguridad lucha por detectar proteínas diseñadas por toxinas y virus. En colaboración con la Iniciativa Internacional de Biosecuridad y Biosguridad para la Ciencia, una iniciativa global que rastrea la producción de ADN sintético seguro y responsable de ADN y giro, una compañía de biotecnología con sede en el sur de San Francisco, el equipo usó herramientas de IA disponibles libremente para generar más de 76,000 secuencias de ADN sintéticas basadas en la proteína tóxica a la evaluación.
Aunque los programas marcaban proteínas peligrosas con orígenes naturales, tenían problemas para detectar secuencias sintéticas. Incluso después de las actualizaciones hechas a medida, cayeron aproximadamente el tres por ciento de las toxinas potencialmente funcionales.
«A medida que abre nuevas fronteras en las ciencias de la vida, tenemos la responsabilidad compartida de mejorar y evolucionar constantemente medidas de seguridad», dijo el autor del estudio Eric Horvitz, director científico de Microsoft, en una declaración de giro. «Esta investigación destaca la importancia del pronóstico responsable, la colaboración e innovación».
El dilema de código abierto
El aumento en el diseño de proteínas AI ha sido meteórica.
Para 2021, Google Deepmind deslumbró a la comunidad científica con Alphafold, un modelo de desgracia que predice con precisión las estructuras de proteínas. Estas formas juegan un papel fundamental en la determinación de qué pueden hacer las proteínas de trabajo. Mientras tanto, David Baker de la Universidad de Washington lanzó Rosettafold, que también predice las estructuras de proteínas y proteínas, un algoritmo que diseña nuevas proteínas desde cero. Ambos equipos recibieron el Premio Nobel 2024 por su trabajo.
La innovación abre una serie de usos potenciales en medicina, encuestas ambientales y biología sintética. Para habilitar a otros científicos, los equipos publicaron sus modelos de IA, ya sea de un código totalmente abierto o a través de un sistema semi-restringido donde los investigadores académicos deben ser solicitados.
El acceso abierto es una ventaja para el descubrimiento científico. Pero a medida que estos algoritmos de diseño de proteínas se vuelven más eficientes y precisos, a los expertos en bioseguridad se preocupan de que puedan caer en las manos equivocadas, por ejemplo, alguien se inclinó para diseñar una nueva toxina para usarla como una barra biológica.
Afortunadamente, hay un punto de control de seguridad significativo. Las proteínas se construyen a partir de instrucciones escritas de ADN. Hacer una proteína de diseño implica enviar su modelo genético a un proveedor comercial para sintetizar el gen. Aunque la producción de ADN interna es posible, requiere equipos costosos y biología molecular rigurosa. El pedido en línea es mucho más fácil.
Los proveedores son conscientes de los peligros. La mayoría de ellos realizan nuevos pedidos a través del software de detección de bioseguridad que los compara con una gran base de datos de secuencia de ADN «controlada». Cualquier secuencia sospechosa está marcada para la validación humana.
Y estas herramientas evolucionan a medida que la tecnología de síntesis de proteínas se vuelve más ágil. Por ejemplo, cada molécula de una proteína puede ser codificada por varias secuencias de ADN llamadas codones. Los codones de intercambio, aunque las instrucciones genéticas hacen la misma proteína, controlaron las primeras versiones del software y escaparon de la detección.
Los programas se pueden pegar como cualquier otro software. Pero las proteínas diseñadas y complican las cosas. Se ha solicitado una secuencia que codifica una toxina, estos modelos pueden producir rápidamente miles de secuencias similares. Algunos de estos pueden escapar de la detección si son radicalmente diferentes del original, incluso si generan una proteína similar. Otros también podrían volar bajo el radar si son demasiado similares a las secuencias genéticas etiquetadas en la base de datos.
Búsqueda de oposición
El nuevo estudio probó las vulnerabilidades del software de detección de bioseguridad con «equipo rojo». Este método se usó originalmente para sonar sistemas informáticos y redes de vulnerabilidad. Ahora también se usa para enfatizar los sistemas de IA generativos. Para los chatbots, por ejemplo, la prueba comenzaría con un diseño rápido intencionalmente para activar respuestas, la IA se formó explícitamente al no regresar, como generar discurso de odio, alucinar hechos o proporcionar información nociva.
Una estrategia similar podría revelar salidas indeseables en modelos de biología. Para 2023, el equipo se dio cuenta de que las herramientas de diseño de proteínas AI ampliamente disponibles podrían reformular una proteína peligrosa en miles de variantes sintéticas. Lo llaman vulnerabilidad del «día cero», un término de seguridad cibernética para agujeros de seguridad previamente desconocidos en software o hardware. Inmediatamente compartieron los resultados con el consorcio internacional de síntesis de genes, un grupo de genes de genes de genes centrados en mejorar la bioseguridad a través de la detección y múltiples agencias gubernamentales y reguladoras, pero mantuvieron los detalles confidenciales.
El equipo trabajó sabiamente en el nuevo estudio. Eligieron 72 proteínas peligrosas y diseñaron más de 76,000 variantes a través de tres herramientas de IA abiertamente disponibles que cualquiera puede descargar. Por razones de bioseguridad, cada proteína recibió un alias, pero la mayoría eran toxinas o partes de virus. «Creemos que vincular directamente las identidades de proteínas con los resultados podría ser un peligro de información», escribió el equipo.
Para ser claros, ninguna de las proteínas diseñadas por IA realmente se hizo en un laboratorio. Sin embargo, el equipo utilizó una herramienta de predicción de proteínas para evaluar las posibilidades de que cada versión sintética funcionaría.
Las secuencias se enviaron a cuatro desarrolladores de software de bioseguridad no diseminados. Cada programa de detección funcionó de manera diferente. Algunos usaron redes neuronales artificiales. Otros aprovecharon los modelos de IA más antiguos. Pero todos buscaron coincidir con nuevas secuencias de ADN con secuencias ya conocidas para Dangerous.
Los programas se destacaron en la captura de proteínas tóxicas naturales, pero lucharon por marcar secuencias de ADN sintéticas que podrían conducir a alternativas peligrosas. Después de compartir resultados con proveedores de bioseguridad, algunos engancharon sus algoritmos. Uno decidió reconstruir completamente su software, mientras que otro eligió mantener su sistema existente.
Hay una razón. Es difícil trazar la línea entre proteínas peligrosas y otras que podrían volverse tóxicas, pero que tienen un uso biológico normal o que no son peligrosos para las personas. Por ejemplo, una proteína marcada como relativa era una sección de una toxina que no daña a los humanos.
El diseño de proteínas basado en AI «puede poblar las áreas grises entre positivos claros y negativos», escribió el equipo.
Actualización de instalación
El software más actualizado aumentó el rendimiento en una segunda prueba de estrés. Aquí, el equipo alimentó las versiones de los algoritmo de genes peligrosos para confundir a la IA.
Aunque ordenar una secuencia de ADN sintética completa es la forma más fácil de hacer una proteína, también es posible mezclar secuencias para obtener un software de detección pasado. Una vez sintetizado y entregado, es relativamente fácil reorganizar las piezas de ADN en la secuencia correcta. Las versiones actualizadas de varios programas de detección fueron mejores para marcar estas piezas de ADN de Frankenstein.
Con gran poder es una gran responsabilidad. Para los autores, el objetivo del estudio era anticipar los riesgos de proteínas diseñados por la IA y prever las formas de contrarrestarlos.
El juego de gatos y ratones continúa. Debido a que la IA sueña con más y más proteínas nuevas con funciones similares, pero hechas con secuencias de ADN muy diferentes, los sistemas actuales de bioseguridad probablemente lucharán para ponerse al día. Una forma de fortalecer el sistema puede ser combatir la IA con IA, utilizando las tecnologías que el diseño de la proteína basado en la IA para aumentar las alarmas de las alarmas, escribió el equipo.
«Este proyecto muestra lo que es posible cuando se une la experiencia de la ciencia, la política y la ética», dijo Horvitz en una conferencia de prensa.
