Un nuevo estudio encontró que la inteligencia artificial podría diseñar ADN para todos los tipos de proteínas peligrosas y que las medidas de detección de bioseguridad de los fabricantes de ADN no eran confiables.
Imágenes Malte Mueller/Fstoap/Getty
esconder el subtítulo
Título de conmutación
Imágenes Malte Mueller/Fstoap/Getty
Las principales compañías biotecnológicas que ocurren ADN hechas para los científicos tienen protecciones en su lugar para mantener material biológico peligroso fuera de las manos de maletas. Se muestra que sus pedidos atrapan a cualquiera que intente comprar Small o Antrax.
Pero ahora, un nuevo estudiar En la revista Ciencia Ha demostrado cómo se puede usar IA para evitar fácilmente estos procesos de bioseguridad.
Un equipo de investigadores de IA descubrió que las herramientas de diseño de proteínas podrían usarse para «parafrasear» códigos de ADN de proteínas tóxicos «, reescribiéndolas de manera que pueda preservar su estructura y posiblemente su función», dice, «dice,» dice «, dice», dice «, dice», dice «, dice, dice. » Eric HorvitzLa principal cabeza científica de Microsoft.
Los informáticos utilizaron un programa de IA para generar códigos de ADN para más de 75,000 variantes de proteínas peligrosas, y los firewalls utilizados por los fabricantes de ADN no podían tomarlas constantemente.
«En nuestra preocupación», dice Horvitz, «estas secuencias reformuladas revisaron los sistemas de detección de bioseguridad utilizados en todo el mundo por las compañías de síntesis de ADN para establecer pedidos peligrosos».
Se escribió rápidamente una corrección y se entregó una mano al software de detección de bioseguridad. Pero no es perfecto, todavía no podía detectar una pequeña parte de las variantes.
Y es solo el último episodio que muestra cómo la IA está reviviendo preocupaciones a largo plazo sobre el posible mal uso de las poderosas herramientas biológicas.
Los peligros de la ciencia abierta
«El diseño de proteínas de AIA es una de las fronteras de la ciencia más emocionantes. Ya estamos viendo avances en salud pública y medicina», dice Horvitz. «Sin embargo, como muchas tecnologías poderosas, estas mismas herramientas a menudo se pueden usar mal».
Durante años, a los biólogos se les ha preocupado que sus herramientas de ADN mejorables puedan usarse para diseñar una biotrea potente, como los virus o toxinas más virulentos que son fáciles de propagar. Tener incluso VI Si es realmente conveniente publicar ciertos resultados experimentales abiertamente, aunque la discusión abierta y la replicación independiente han sido la vida de la vida de la ciencia.
Los investigadores y la revista que publicaron este nuevo estudio decidieron retener parte de su información y restringirán quién obtuvo acceso a sus datos y software. Alistaron a un tercero, una iniciativa de bioseguridad y bioseguridad para la ciencia, para tomar decisiones sobre quién tiene una necesidad legítima de saber.
«Esta es la primera vez que este modelo se utiliza para gestionar los riesgos de compartir información peligrosa en una publicación científica», dice Horvitz.
Los científicos que han estado preocupados por futuras amenazas de bioseguridad durante algún tiempo elogiaron este trabajo.
«Mi reacción general fue favorable», dice Arturo CasadevallMicrobiólogo e inmunólogo en la Universidad Johns Hopkins. «Aquí tenemos un sistema en el que estamos identificando la vulnerabilidad. Y lo que ves es un intento de corregir las vulnerabilidades conocidas».
El problema es, según Casadevall, «¿Qué vulnerabilidades sabemos sobre esto necesitará correcciones futuras?»
Afirma que este equipo no realizó un trabajo de laboratorio para generar realmente ninguna de las proteínas diseñadas por IA, para ver si realmente imitarían la actividad de las amenazas biológicas originales.
Casadevall dice que este trabajo sería una verificación de una realidad importante, ya que la sociedad tiene este tipo de amenaza emergente de la IA, según Casadevall, pero sería difícil hacerlo, ya que podría evitar los tratados internacionales que prohíben el desarrollo de armas biológicas.
Avanzar en un «tren de carga» ai
Esta no es la primera vez que los científicos exploran el potencial del uso de mal humor de la IA en un entorno biológico.
Por ejemplo, hace unos años, otro equipo preguntar Si la IA pudiera usarse para generar nuevas moléculas que tengan las mismas propiedades que los agentes nerviosos. En menos de seis horas, la herramienta AI codificó 40,000 moléculas que cumplieron los criterios solicitados.
No solo se encontró con agentes de guerra química conocidos como el notorio llamado VX, sino que también diseñó muchas moléculas desconocidas que parecían plausibles y se esperaba que fueran más tóxicas. «Habíamos transformado nuestro modelo generativo inocu de una herramienta médica útil en un posible generador de moléculas mortales», escribieron los investigadores.
Ese equipo tampoco publicó abiertamente las estructuras químicas que la herramienta de IA había ideado, o para crear, en el laboratorio, «porque pensaron que eran demasiado peligrosos», dice David RelmanInvestigador en la Universidad de Stanford. «Simplemente dijeron, te contamos todo como una advertencia».
Relman piensa que el último estudio, que muestra cómo IA podría usarse para evadir la detección de seguridad y encontrar una manera de lidiar con eso, es lo que sea digno de elogio. Al mismo tiempo, dice, solo ilustra que hay un gran problema.
«Creo que nos dejó golpear y preguntar:» Bueno, ¿qué debemos hacer exactamente? «, Dice.» ¿Cómo podemos avanzar en un tren de carga que se acelera solo y corre por las vías, en peligro de cuidar las vías? «
A pesar de las preocupaciones como estas, algunos expertos en bioseguridad ven razones para garantizar.
Twist BioScience es un gran proveedor de ADN en orden, y en los últimos diez años ha tenido que referirse a las órdenes de la aplicación de la ley menos de cinco veces, dice James Diggans, el jefe de política y el biosecurio sobre la biociencia y el cadirador de la junta directiva del consorcio internacional de genes, un grupo de la industria.
«Esto es algo increíblemente raro», dice. «En el mundo de la ciberseguridad, tiene varios actores que intentan acceder a sistemas. Este no es el caso de la biotecnología. El número real de personas que realmente intentan crear un mal uso puede ser muy cercano a cero. Y creo que estos sistemas son un bulco importante contra esto, pero todos deberíamos encontrar consuelo en el hecho de que no es un escenario común».
