Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir historias como esta primero en tu bandeja de entrada, suscríbete aquí.
El pasado miércoles, Anthropic anunció que a principios de este año había lanzado un laboratorio de biología molecular, donde agentes de Claude leen y conjeturan sobre problemas complejos de biología, y científicos humanos realizan experimentos basándose en lo que estos informan. Y este laboratorio impulsado por IA, según la compañía, había hecho su primer descubrimiento.
Para entender lo que Anthropic afirma que hizo su sistema, imagina que estás hojeando una biblioteca de millones de secuencias de ADN, acumuladas a medida que los científicos secuencian más y más del mundo vivo. Un paso hacia un avance significativo podría ser encontrar una secuencia peculiar que codifique una enzima interesante, quizás. Entonces necesitarías averiguar qué hace esa enzima y, finalmente, cómo manipularla para que haga algo útil.
Según Anthropic, lo que su sistema de 950 agentes encontró después de 21 horas no fue una secuencia totalmente inédita. En cambio, los agentes identificaron un patrón repetitivo alrededor de una enzima conocida, un patrón particular que, según Anthropic, no había sido catalogado antes. Pero si uno lee el comunicado de Anthropic, que afirma que este patrón "recuerda" al que dio origen a la tecnología de edición genética CRISPR, que "ya ha transformado la ciencia y la medicina", da la impresión de que este ejército de agentes hubiera encontrado realmente algo digno de mención.
Estas afirmaciones han indignado a algunos biólogos. Una publicación viral de uno de ellos, posteriormente respaldada por el presidente y director ejecutivo de la farmacéutica Eli Lilly, afirmaba que "encontrar un extraño grupo de genes y repeticiones es a menudo la parte fácil. La parte difícil, y de donde provienen los verdaderos descubrimientos, es averiguar qué hace realmente el sistema". Los agentes ayudaron con algo de trabajo pesado de laboratorio, en otras palabras. Pero no es un descubrimiento.
Es un recordatorio de que, incluso si la IA hace algo impresionante —como encontrar un patrón en una masa de datos biológicos que sería difícil de percibir solo con ojos humanos—, el resultado en sí mismo puede no constituir un avance para la ciencia. Lo que es novedoso para la IA puede ser rutinario, poco sorprendente o, simplemente, no tan trascendente para un biólogo.
Complicando aún más el panorama, Mario Rodríguez Mestre, biólogo de la Universidad de Copenhague, afirmó el fin de semana que su equipo ya había descubierto este patrón en particular, según informó The New York Times. Rodríguez Mestre, que conversaba regularmente con Claude en su trabajo, se preguntó si el equipo de Anthropic había aprendido de sus conversaciones. Anthropic lo niega, pero Rodríguez Mestre asegura que, de todas formas, dejará de usar Claude.
Parte del problema radica en que las empresas de IA no están presentando sus sistemas simplemente como herramientas que los científicos pueden usar, como microscopios o superordenadores. Están insistiendo en que los sistemas de IA están haciendo descubrimientos por sí mismos. Para algunos, ese enfoque es incompatible con el funcionamiento real de la ciencia, donde el nuevo conocimiento suele surgir de la colaboración y de un arsenal de herramientas en constante crecimiento.
También provoca que la gente sea más escéptica con el progreso real cuando este se produce. Reducir 200.000 candidatos a unos pocos que merezca la pena explorar no es poca cosa; es un trabajo científico legítimo. El hecho de que un chatbot de propósito general pudiera hacer ese trabajo es notable, incluso si los humanos ayudaron a guiarlo y, en última instancia, realizaron los experimentos. Pero una vez que el baremo es si el propio Claude realizó un descubrimiento, todo eso pasa a ser prueba para una u otra parte en un debate que solo tiene dos respuestas: avance o fracaso.
Una vez que juzgamos la IA por si ha realizado un descubrimiento, también es tentador redefinir los criterios incluso después de que parezca haber logrado un éxito. A principios de este mes, OpenAI afirmó que su equipo de agentes había resuelto un problema matemático de un millón de dólares. Pero un par de semanas después, casi todos los escépticos de la IA en mi feed compartían un artículo preguntándose si el problema matemático era realmente el que importaba.
Para ser claros, el artículo no sostenía que la solución de OpenAI fuera errónea. Más bien, argumentaba que el resultado en cuestión quizás no sea el que más interesa a los matemáticos. Si a esto se añade la acusación de un matemático de que los modelos podrían haber usado parte de su trabajo sin atribución, la gente se queda pensando que o bien OpenAI hizo trampas o la solución no era importante de todos modos. O ambas cosas.
Eso es parte de lo que preocupa a Lucas Harrington, el biólogo que escribió la publicación criticando el anuncio de Anthropic. Concluyó con una sugerencia: las empresas de IA, dijo, deberían "poner el listón alto ahora, para que cuando una IA descubra realmente un mecanismo biológico fundamentalmente nuevo, todo el mundo aprecie la magnitud del hito". Pero mientras Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, compiten por superarse mutuamente, elevar el listón de los avances científicos por parte de la IA podría ser lo último que les preocupe.