Este artículo se publicó originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir antes que nadie historias como esta en tu bandeja de entrada, suscríbete aquí.
Tras semanas de frenética especulación, Anthropic ha presentado el folleto para su salida a bolsa. El documento de 335 páginas (unas 100 de ellas centradas en los riesgos) expone la singular visión de la compañía sobre la tecnología que está desarrollando y cómo cree que cambiará el mundo.
Pero Anthropic lleva años perfeccionando sus dotes narrativas. De hecho, su comunicación pública es una clase magistral de control de la narrativa.
A principios de este mes, Jack Clark, cofundador y director de políticas de la empresa, pronunció un discurso en la reunión del FMI en Bangkok en el que anunció a los economistas, banqueros y legisladores congregados que la singularidad ya está aquí.
Planteada por el escritor de ciencia ficción y futurista Vernor Vinge hace unos 40 años (y debatida durante mucho tiempo en los rincones más frikis de internet), se supone que la singularidad es el punto en el que la tecnología se vuelve tan avanzada que supera las capacidades de sus creadores.
Los seres humanos quedan atrás, según esta idea, incapaces ya de competir con —o incluso de comprender— los frutos de su antigua creación.
¿Y este mundo de ficción que muchos nos hemos imaginado desde que éramos niños? Al parecer, ya estamos viviendo en él: «Creo que este año hemos obtenido pruebas convincentes de que ya ha comenzado», afirmó Clark ante su audiencia.
La empresa narra una historia vívida (y en muchos aspectos aterradora) sobre un futuro que presenta como inevitable, pero que todavía no se ha producido, a menudo apropiándose de memes muy trillados de la ciencia ficción. Presenta su tecnología como algo misterioso y peligroso, e insiste en que es la única compañía lo bastante fiable como para domarla. (¿Qué inversor no querría participar en algo así?).
Toma otro ejemplo. El año pasado, Chris Olah, otro de los cofundadores de Anthropic, fue invitado a intervenir en el Vaticano, donde contó al papa León XIV y a otros académicos y autoridades religiosas lo que su empresa estaba descubriendo sobre su tecnología. «Seré sincero: seguimos encontrando cosas misteriosas, incluso inquietantes», afirmó. «Encontramos indicios de introspección. Encontramos estados internos que reflejan funcionalmente alegría, satisfacción, miedo, dolor y desasosiego».
Poco importa que muchos investigadores se mofen de una sugerencia tan explícita de que el software de Anthropic posee una experiencia interior similar a la humana. Cuando casi nada parece seguro, lo que dicen Anthropic (y sus homólogas en la IA de frontera) se recibe con avidez y la gente se aferra a ello como a los restos de un barco que se hunde.
No digo que necesariamente se equivoquen en nada de esto. (Eso queda para otro día). Pero en un mundo donde nadie sabe lo que está por venir, empresas como Anthropic acaban llenando ese vacío.
Vale la pena detenerse un momento a preguntarse: ¿qué es Anthropic? Podría sonar a la primera pregunta de un concurso familiar, pero es mucho más difícil de responder de lo que imaginas.
Llevo dándole vueltas a esta pregunta desde que leí la semana pasada un intercambio en X iniciado por Nathan Calvin, director de estrategia de Encode AI, una organización con sede en Washington D. C. que aboga por la regulación. Calvin no estaba satisfecho con la legislación que Anthropic propuso en un borrador de ley que distribuyó en secreto entre los legisladores estadounidenses (y que después se filtró).
Anthropic quiere que la vean como «el bueno», afirmó Calvin. Pero ¿por qué deberíamos confiar en ella? «¿Qué es Anthropic?», preguntó.
He aquí una respuesta: Anthropic es una empresa cuya salida a bolsa la valora en más de 1,5 billones de dólares, lo que reporta una inmensa fortuna a sus cofundadores, entre ellos Clark y Olah.
Pero Anthropic siempre ha insistido en que es más que eso. Como señaló Calvin: Anthropic podría considerarse más bien una organización de seguridad de la IA centrada en desarrollar una tecnología potente que sea fiable y esté (casi) libre de riesgos. O podría considerarse un grupo de personas empeñadas en crear una tecnología con capacidades sobrehumanas antes que nadie, tal vez porque creen que son las más responsables para hacerlo, o tal vez por puro ego.
De hecho, Anthropic es todas estas cosas. Como afirmó su CEO, Dario Amodei, en una respuesta a la publicación de Calvin: «Nuestra estrategia siempre ha sido lo que he llamado la “carrera hacia la cima”: al demostrar que es posible desarrollar la tecnología de forma responsable, podemos elevar el listón para todo el sector. Las fuerzas que impulsan la carrera hacia la cima son muchísimo más eficaces si la empresa que las practica está en la vanguardia; esa es una lección que he aprendido una y otra vez. Y, mirando esa estrategia en su conjunto, estoy orgulloso de nuestra trayectoria y la defiendo».
Amodei hace que parezca que lo tiene todo bajo control, pero asumir múltiples roles es complicado. Por ejemplo, existen enormes tensiones entre las prioridades de una organización de seguridad de la IA y una megacorporación orientada a los beneficios. (Amodei admite en su publicación que ha cometido errores).
En última instancia, las historias que Anthropic se cuenta a sí misma deberían ayudarnos a entender las que nos cuenta a nosotros. Deberían ayudarnos a dilucidar hasta qué punto podemos confiar en su capacidad de autorregulación o si deberíamos obligarla a conceder acceso a sus modelos a evaluadores externos de seguridad bajo nuestras condiciones y no las suyas. Deberían ayudarnos a concederle el beneficio de la duda (o no) cuando sale a la luz lo que parece una legislación en beneficio propio.
Pero creo que estas historias revelan una hidra de múltiples cabezas. Anthropic es muchas cosas para mucha gente, y no tengo claro que eso la haga más fiable. En muchos sentidos, una buena empresa tecnológica tradicional —sin juegos de rol de ciencia ficción, sin tanto misticismo— resultaría mucho más fácil de descifrar.