Desde los dramáticos acontecimientos de la semana pasada en OpenAI, los rumores han estado a toda marcha sobre por qué el director científico de la compañía, Ilya Sutskever, y su junta directiva decidieron destituir al director ejecutivo Sam Altman.

Si bien todavía no conocemos todos los detalles, ha habido informes de que los investigadores de OpenAI habían logrado un "avance" en IA que había alarmado a los miembros del personal. Reuters y The Information informan que los investigadores habían ideado una nueva forma de crear potentes sistemas de inteligencia artificial y habían creado un nuevo modelo, llamado Q* (pronunciado Q estrella), que era capaz de realizar matemáticas a nivel de escuela primaria. Según las personas que hablaron con Reuters, algunos en OpenAI creen que esto podría ser un hito en la búsqueda de la compañía para construir inteligencia artificial general, un concepto muy publicitado que se refiere a un sistema de inteligencia artificial que es más inteligente que los humanos. La compañía declinó hacer comentarios sobre Q*.

Las redes sociales están llenas de especulación y exageración excesiva, por lo que llamé a algunos expertos para descubrir qué tan importante sería realmente cualquier avance en matemáticas e inteligencia artificial.

Durante años, los investigadores han intentado conseguir modelos de IA para resolver problemas matemáticos. Los modelos de lenguaje como ChatGPT y GPT-4 pueden hacer algunos cálculos, pero no muy bien ni de manera confiable. Actualmente no tenemos los algoritmos ni siquiera las arquitecturas adecuadas para poder resolver problemas matemáticos de forma fiable utilizando la IA, afirma Wenda Li, profesora de IA en la Universidad de Edimburgo. El aprendizaje profundo y los transformadores (una especie de red neuronal), que es lo que utilizan los modelos de lenguaje, son excelentes para reconocer patrones, pero eso por sí solo probablemente no sea suficiente, añade Li.

Las matemáticas son un punto de referencia para el razonamiento, dice Li. Una máquina capaz de razonar sobre matemáticas podría, en teoría, aprender a realizar otras tareas basadas en información existente, como escribir código de computadora o sacar conclusiones de un artículo de noticias. Las matemáticas son un desafío particularmente difícil porque requieren que los modelos de IA tengan la capacidad de razonar y comprender realmente a qué se enfrentan.

Un sistema de IA generativa que pudiera hacer matemáticas de manera confiable necesitaría tener una comprensión muy firme de definiciones concretas de conceptos particulares que pueden volverse muy abstractos. Muchos problemas matemáticos también requieren cierto nivel de planificación en múltiples pasos, dice Katie Collins, investigadora de doctorado de la Universidad de Cambridge, que se especializa en matemáticas e inteligencia artificial. De hecho, Yann LeCun, científico jefe de IA en Meta, publicó en X y LinkedIn durante el fin de semana que cree que Q* probablemente sea "intentos de planificación de OpenAI".

Las personas que se preocupan por si la IA representa un riesgo existencial para los humanos , una de las preocupaciones fundadoras de OpenAI, temen que tales capacidades puedan conducir a una IA deshonesta. Podrían surgir preocupaciones de seguridad si a dichos sistemas de IA se les permite establecer sus propios objetivos y comenzar a interactuar con un mundo físico o digital real de alguna manera, dice Collins.

Pero si bien la capacidad matemática podría acercarnos un paso más a sistemas de inteligencia artificial más potentes, resolver este tipo de problemas matemáticos no indica el nacimiento de una superinteligencia.

"No creo que esto nos lleve inmediatamente a AGI o situaciones aterradoras", dice Collins. También es muy importante subrayar qué tipo de problemas matemáticos resuelve la IA, añade.

“Resolver problemas matemáticos de la escuela primaria es muy, muy diferente de traspasar los límites de las matemáticas al nivel de algo que puede hacer un medallista Fields”, dice Collins, refiriéndose a un premio máximo en matemáticas.

La investigación sobre el aprendizaje automático se ha centrado en resolver problemas de la escuela primaria, pero los sistemas de inteligencia artificial de última generación aún no han superado por completo este desafío. Algunos modelos de IA fallan en problemas matemáticos realmente simples, pero luego pueden sobresalir en problemas realmente difíciles, dice Collins. OpenAI, por ejemplo, ha desarrollado herramientas dedicadas que pueden resolver problemas desafiantes planteados en competencias para los mejores estudiantes de matemáticas en la escuela secundaria, pero estos sistemas superan a los humanos sólo ocasionalmente.

Sin embargo, construir un sistema de IA que pueda resolver ecuaciones matemáticas es un avance interesante, si eso es realmente lo que Q* puede hacer. Una comprensión más profunda de las matemáticas podría abrir aplicaciones para ayudar a la investigación científica y la ingeniería, por ejemplo. La capacidad de generar respuestas matemáticas podría ayudarnos a desarrollar una mejor tutoría personalizada, o ayudar a los matemáticos a hacer álgebra más rápido o resolver problemas más complicados.

Esta tampoco es la primera vez que un nuevo modelo genera entusiasmo por AGI. El año pasado, la gente de tecnología decía lo mismo sobre Gato de Google DeepMind , un modelo de IA "generalista" que puede jugar videojuegos Atari, subtitular imágenes, chatear y apilar bloques con un brazo robótico real. En aquel entonces, algunos investigadores de IA afirmaron que DeepMind estaba "al borde" de AGI debido a la capacidad de Gato para hacer bastante bien muchas cosas diferentes. La misma máquina publicitaria, diferente laboratorio de inteligencia artificial.

Y si bien pueden ser excelentes relaciones públicas, estos ciclos de publicidad hacen más daño que bien a todo el campo al distraer a las personas de los problemas reales y tangibles en torno a la IA. Los rumores sobre un nuevo y poderoso modelo de IA también podrían ser un enorme autogol para el sector tecnológico reacio a la regulación. La UE, por ejemplo, está muy cerca de finalizar su amplia Ley de IA. Una de las luchas más importantes en este momento entre los legisladores es si se debe otorgar a las empresas de tecnología más poder para regular por sí mismas los modelos de inteligencia artificial de vanguardia.

La junta directiva de OpenAI fue diseñada como el mecanismo de gobierno y desconexión interna de la empresa para evitar el lanzamiento de tecnologías dañinas. El drama de la semana pasada en las juntas directivas ha demostrado que en estas empresas siempre prevalecerá el resultado final. También hará que sea más difícil defender por qué se les debe confiar la autorregulación. Legisladores, tomen nota.