Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir primero historias como esta en tu bandeja de entrada, suscríbete aquí.
Para aquellos que disfrutan de su verano ajenos a la última disputa de Anthropic con el gobie o de EE. UU., aquí tienen un resumen: En abril, la compañía afirmó haber desarrollado un modelo de IA llamado Mythos que era tan bueno trabajando con código que podría representar una amenaza global para la ciberseguridad. Anthropic dio acceso a un pequeño grupo de expertos en ciberseguridad para que pudieran ver a qué se enfrentaban. Luego, lanzó una versión modificada llamada Fable que, según afirmó, era más segura para el público el martes, 9 de junio. Ese vie es, el gobie o federal comunicó a la empresa que era una amenaza para la seguridad nacional e impuso controles de exportación sobre el nuevo lanzamiento. Anthropic revocó el acceso a ambos modelos horas después.
Las personas preocupadas por los efectos catastróficos de la IA —conocidas ampliamente como «doomers»— han afirmado durante años que la tecnología supone una amenaza para la humanidad y han publicado propuestas sobre cómo el gobie o debería intervenir en su desarrollo. Los «doomers» acaban de conseguir su intervención gube amental —no por una bioarma o una IA descontrolada, sino en respuesta a un modelo de IA que es básicamente muy bueno programando. Y el resultado hasta ahora se parece menos a un plan de seguridad que a una reacción superficial.
Hay mucho que analizar sobre lo que ocurrió en esos pocos días que llevaron a una acción tan drástica por parte del gobie o, y es destacable que el CEO de Amazon, Andy Jassy, fuera quien dijo a los funcionarios del gobie o que Fable sería peligroso (Amazon está invertida en Anthropic y, a la vez, está desarrollando sus propios modelos de IA competidores). También es posible que esta sea una prohibición efímera del gobie o que no supere el escrutinio legal (por ejemplo, no está claro que el hecho de que Anthropic ofrezca acceso a Fable cuente realmente como su "exportación").
Pero ya se están produciendo efectos dominó.
Por un lado, esto está provocando que muchas personas no quieran depender de las empresas estadounidenses de IA. El político francés Bruno Retailleau lo describió como una “llamada de atención” que debería motivar a Europa a desarrollar más IA. Pero cualquier visión de convertir París en Silicon Valley —promovida por muchos otros líderes europeos tras el cierre de los modelos de Anthropic— se complica por un factor importante: China.
Los modelos de código abierto de China son muy capaces e increíblemente baratos, y pueden descargarse para ejecutarse en los servidores de cualquiera sin reglas ni salvaguardias. (Esto los hace atractivos para empresas que no quieren que se les deniegue el acceso basándose en una decisión de la Casa Blanca —pero igualmente atractivos para los ciberdelincuentes, el tipo que Anthropic esperaba repeler construyendo salvaguardias de seguridad en sus modelos).
Es posible que las empresas, incluidas las de EE. UU. y Europa, decidan que trabajar con modelos chinos es simplemente más fácil, como sugiere el espectacular aumento de las acciones de la startup china Zhipu. Llevando esto un paso más allá, ¿es posible que la próxima decisión drástica del gobie o sea declarar que las empresas estadounidenses que utilizan modelos de China suponen una amenaza para la seguridad nacional? No lo descartaría.
Segundo, es posible que cerrar el acceso a los modelos de Anthropic deje al país más vulnerable a los ataques de ciberseguridad, no menos. Destacados expertos en ciberseguridad así lo han manifestado en una carta abierta al gobie o, escribiendo que el acceso a los modelos de Anthropic estaba ayudando a los investigadores a preparar defensas, y que los modelos de la compañía no son más peligrosos que otros modelos punteros ampliamente disponibles. Tal es el riesgo de aplicar el concepto de no proliferación al software —intentar controlar y restringir modelos de IA peligrosos al modo del uranio utilizado para armas nucleares.
La tercera cuestión a observar es cómo reaccionarán los legisladores estadounidenses. Cabe recordar que, a raíz de la *última* disputa de Anthropic con el gobie o sobre cómo el Pentágono podría o no utilizar sus modelos, se presentó un conjunto de nuevos proyectos de ley que definirían los límites de la IA militar.
Ahora mismo, los principales actores que definen cómo se utiliza la IA son las empresas y la Casa Blanca. Se ha hablado mucho de una mayor regulación federal de la IA, y las encuestas sugieren que la mayoría de los estadounidenses la desean. Los legisladores aún están dilucidando si establecer normas sobre cómo los niños usan los chatbots y están lejos de una respuesta clara sobre hasta qué punto el gobie o debe verificar la seguridad de los modelos de IA. Pero con cada acción drástica de la Casa Blanca, la presión por la regulación aumenta.
No hace falta decir que las predicciones son difíciles cuando las actitudes de la administración hacia la IA cambian con el viento. Cuando el presidente Trump asumió el cargo, descartó el restrictivo libro de normas para hacer la IA segura y prometió no interponerse en el camino de las empresas tecnológicas. La Casa Blanca ha calificado ahora a la startup de IA más valiosa como un riesgo para la seguridad nacional, una vez en primavera y de nuevo en verano. ¿Qué traerá el otoño?