En las últimas semanas, líderes de algunas de las mayores empresas de IA han advertido que la propia tecnología que están desarrollando es peligrosa. El pasado fin de semana, Dario Amodei, CEO de Anthropic, argumentó que la IA conlleva serios riesgos y que el progreso debería ralentizarse. Sam Altman, CEO de OpenAI, respondió en X: “Estoy de acuerdo con Dario en que tenemos que marcar el ritmo de la frontera.”
Estas publicaciones se produjeron unos días después de que el investigador de IA Jacob Coxon anunciara que dejaba un puesto en Anthropic, alegando que ni esta ni OpenAI (donde también había trabajado) estaban actuando de forma responsable. «Las personas que desarrollan IA creen sinceramente que podría acabar con todos nosotros antes del final de la década», publicó en X. Otro empleado de Anthropic, Evan Hubinger, se mostró públicamente de acuerdo con él. «¡Realmente creemos sinceramente que la IA podría acabar con todos los humanos!», respondió en X. «Personalmente, creo que hay más de un 10 % de probabilidad de que ocurra en la próxima década».
Una de las maneras en que temen que la IA pueda acabar con todos nosotros es que, de alguna manera, ayude en el diseño, la creación y la liberación de algún tipo de arma biológica. Analicemos por qué.
Un arma biológica podría ser un virus altamente letal que ataque a personas según sus genes. Podría ser un hongo que arrase un cultivo y cause inseguridad alimentaria. Quizás sería una toxina insípida e inodora que podría introducirse en el suministro de agua de una región, sin ser detectada.
La preocupación es que las herramientas de IA pueden utilizarse para ayudar a generar agentes como estos. En 2022, investigadores de Collaborations Pharmaceuticals descubrieron que era sorprendentemente fácil hacerlo utilizando un «generador de moléculas» de IA que habían desarrollado para encontrar fármacos potenciales para enfermedades humanas. En menos de seis horas, el modelo generó 40.000 moléculas con el potencial de servir como agentes de guerra química. Algunas de ellas fueron diseñadas para ser aún más tóxicas que los agentes nerviosos conocidos. «Sin ser excesivamente alarmistas, esto debería servir como una llamada de atención para nuestros colegas de la comunidad de ‘IA en el descubrimiento de fármacos’», escribieron los autores en aquel momento.
Fue una llamada de atención para David Magnus, catedrático de medicina y ética biomédica en la Universidad de Stanford, a pesar de que llevaba evaluando los riesgos asociados al uso indebido de la ciencia médica y la biotecnología desde finales de la década de 1990. «Eso me resultó muy alarmante», afirma. «Por supuesto, desde entonces todo se ha disparado».
Hoy en día, los bots de IA pueden responder preguntas sobre temas que abarcan todos los campos de la ciencia. Cualquiera puede utilizar grandes modelos de lenguaje (LLM) entrenados con el conocimiento y la experiencia de «casi todos los científicos que han vivido en este planeta», afirma Dunja Sabra, investigadora de bioseguridad en la Universidad de Hamburgo, Alemania. Estos modelos pueden proporcionar instrucciones y formación en vídeo sobre cómo realizar experimentos.
Si a eso le sumamos los avances en biotecnología que han hecho que las herramientas de edición genética y biología sintética sean mucho más accesibles (el movimiento de "biología DIY" ya ha permitido a muchas personas montar laboratorios en casa), tenemos una situación potencialmente muy peligrosa. "Lo más probable es que alguien decidido acabara teniendo éxito finalmente", dice Sabra.
Existen salvaguardias establecidas. Quienes desean construir nuevos genomas deben solicitar habitualmente las piezas de ADN a empresas que criban las solicitudes sospechosas. Investigadores responsables someten las investigaciones potencialmente arriesgadas a rondas de análisis denominadas 'red-teaming', en las que científicos independientes buscan formas en que el trabajo podría ser mal utilizado, y 'blue-teaming', donde otros proponen posibles mitigaciones. Y las empresas de IA han ajustado sus herramientas en un intento de evitar que ofrezcan información científica que podría ser mal utilizada. Pero ninguna de estas protecciones es infalible.
En un informe publicado la semana pasada, Anthropic reconoció que varias personas habían intentado usar sus modelos para explorar formas de hacer que el virus chikungunya fuera más transmisible, crear una forma de gripe aviar más peligrosa para los humanos y construir un “atlas de péptidos de toxinas venenosas”, entre otras cosas.
“Tenemos un tira y afloja constante”, dice Magnus. “Tenemos que construir mejores herramientas de vigilancia y detección, [pero] la IA es muy buena encontrando formas de eludirlas”. Probablemente tendremos que usar la IA para encontrar maneras de restringir el uso de la IA, dice.
Cabe añadir aquí que no todos los científicos coinciden en el nivel de riesgo. En una reciente sesión informativa para medios, algunos biólogos del Imperial College de Londres argumentaron que las herramientas de IA no son lo suficientemente eficaces como para desarrollar armas biológicas plenamente, y que la prueba de nuevos patógenos requiere un trabajo humano arduo y que consume mucho tiempo. Algunos creen que las salvaguardas existentes son suficientes.
Y Wendy Barclay, catedrática de enfermedades infecciosas en Imperial, señaló que, tal como están las cosas, el mayor riesgo de pandemia no proviene de un arma biológica, sino de patógenos que ya están circulando. Pongamos por ejemplo el H5N1, el virus de la gripe aviar que ya ha matado a millones de aves y se ha extendido ampliamente entre el ganado lechero estadounidense; el mes pasado también fue detectado en visones cautivos en una granja de Utah.
Sabra, por otro lado, prefiere pensar con cinco o diez años de antelación. Los países deberían reforzar sus sistemas sanitarios, preparar antídotos para toxinas conocidas y almacenar medicamentos, afirma ella: “Necesitamos estar preparados.”
Kevin Esvelt, un biólogo del MIT que inventó tanto la tecnología para acelerar la propagación de una característica genética a través de toda una población *como* formas de limitar dicha tecnología, se hizo eco de estas preocupaciones en una publicación en X el miércoles, afirmando que un gran modelo de lenguaje había “revelado una forma novedosa de arma biológica que no había imaginado que fuera posible”.
Añadió: "Por favor, por el amor de Dios, niños, el futuro de la humanidad, o lo que consideren sagrado, pequemos de cautela aquí."
Este artículo apareció originalmente en The Checkup, la newsletter semanal de biotecnología de MIT Technology Review. Para recibirla en su bandeja de entrada cada jueves, y leer artículos como este en primicia, suscríbase aquí.