Han sido unos meses ajetreados para la expectación en to o a la IA. A finales de abril, Anthropic afirmó que su modelo Claude Mythos es mejor detectando vulnerabilidades de software que la mayoría de los expertos en seguridad. Después, tuvimos el incidente de seguridad entre OpenAI y Hugging Face, tras el cual Anthropic (con orgullo) y Meta (con reticencia) revelaron incidentes similares que involucraban a sus modelos.
A esto le siguió la afirmación de Anthropic de que uno de sus modelos había logrado un avance matemático; poco después OpenAI afirmó un avance matemático propio. Más recientemente, el ingeniero de Anthropic Jacob Coxon se hizo viral anunciando su marcha de la compañía, afirmando que esta y OpenAI están “corriendo directamente hacia la superinteligencia auto-mejorable y apostando con nuestras vidas.”
Cada uno de estos eventos fue cubierto mayormente por la prensa con un fervor desmedido, repitiendo a menudo los encuadres antropomorfizadores de las empresas —diseñados para presentar su software no solo como potente, sino también como una incipiente «inteligencia artificial general». Entonces, ¿qué está ocurriendo realmente? ¿Estamos siendo testigos de un conjunto masivo de avances tecnológicos que transforman la civilización, o es esto marketing?
En todos estos incidentes, el gran despliegue de las empresas (presentado como mea culpas en casos de hacking ilícito) se acompaña de una intensa cobertura mediática. Una vez que los expertos en los campos pertinentes tienen tiempo para examinar lo sucedido, surge una historia muy diferente, pero que recibe menos atención mediática.
Respecto a los incidentes de “hacking”, expertos en ciberseguridad afirman que la historia tiene más que ver con la negligencia de OpenAI y su falta de adopción de prácticas de seguridad básicas y consolidadas que sobre “modelos descontrolados” o “agentes de IA creando civilizaciones.”
En cuanto a los resultados matemáticos, los matemáticos, inicialmente "estupefactos" por el comunicado de prensa de OpenAI que afirmaba que su último chatbot, Astra, había resuelto problemas que "habían estado abiertos y sin avances en el resultado principal durante al menos una década", se dieron cuenta después de que los resultados no eran tan "novedosos como parecían al principio". Desde entonces, los matemáticos han acusado a la empresa de mala praxis en la investigación y plagio, y han reiterado que Astra no realizó un "profundo salto intelectual". Apenas unas semanas después, OpenAI afirmó su propio avance matemático. Dos días antes, Tristan Buckmaster, profesor de matemáticas en el Courant Institute de la Universidad de Nueva York, publicó una declaración "demoledora" en la que sugería que OpenAI había robado el trabajo de otras personas y lo había atribuido incorrectamente.
Las afirmaciones sobre una superinteligencia incipiente y peligrosa no se basan en buenas prácticas científicas o de ingeniería. Más bien, son narrativas basadas en ideologías del transhumanismo, la eugenesia y las ilusiones sobre futuros humanos digitales.
Merece la pena reflexionar por qué se presta tanta atención a la programación informática y las matemáticas como campos en los que aplicar grandes modelos de lenguaje y tecnología relacionada. No solo suelen ser elevados como la cúspide del logro intelectual humano, sino que implican problemas cuyas respuestas, una vez sugeridas, pueden ser verificadas. La primera propiedad ayuda a los vendedores de humo de la IA a vender la idea de que están construyendo máquinas que lo hacen todo. Esta última facilita la puesta a punto de los sistemas para problemas de matemáticas y codificación, ya que la salida del sistema (secuencias de palabras probables o fragmentos de código informático) puede evaluarse sin tener que pagar a trabajadores de datos para que examinen y anoten cada una.
Los matemáticos en particular han advertido contra que las corporaciones utilicen su campo de esta manera. Una declaración firmada por cientos de ellos afirma que existe “actualmente un fuerte incentivo comercial por parte de la industria tecnológica para exagerar las capacidades de sus productos” y pide a los responsables políticos que “consulten con expertos, incluidos matemáticos, al tomar decisiones políticas en lugar de basarse en comunicados de prensa o en informes populares de resultados matemáticos.”
Nos hacemos eco de este llamamiento y señalamos que la ilusión de velocidad y urgencia promulgada por las empresas tecnológicas es también una estratagema para desorientar tanto a los legisladores como al público. Lamentablemente, a veces funciona, como ocurrió con el proyecto de ley bienintencionado pero, en último término, desacertado del senador Be ie Sanders para evitar el desarrollo de la "superinteligencia artificial".
Describirlos como «superinteligencia» o «modelos fuera de control» atribuye autonomía a los productos en lugar de a las empresas que los desarrollan. Este planteamiento comercializa los productos de estas empresas como «sobrehumanos» y, al mismo tiempo, las ayuda a evadir la rendición de cuentas por sus acciones.
En lugar de que OpenAI sea procesada por crear malware que pirateó a otra empresa, los comunicados de prensa, los medios de comunicación, las personalidades mediáticas y los legisladores se refieren a «modelos fuera de control» como si actuaran por sí solos. En lugar de que se cuestione a los investigadores sobre la costumbre de sus empresas de plagiar el trabajo de académicos o de utilizar datos de clientes para entrenar modelos sin consentimiento, la imaginación del público se redirige a temores sobre lo que el futuro podría deparar con la llegada de máquinas superinteligentes ficticias.
La industria de la IA incluso ha sugerido que el activismo popular y bipartidista contra los centros de datos es una «distracción» de los intentos de regular las inminentes, aterradoras y «sobrehumanas» máquinas que estas empresas están construyendo. Según la industria de la IA, deberíamos preocupa os más por un dios máquina ficticio que por la catástrofe climática que estos centros de datos exacerban, el asma que sufren quienes viven cerca de ellos, las crecientes facturas de electricidad del público que los subvenciona, o el agua que se desvía para refrigerarlos.
Sabemos de sobra que no debemos tomar decisiones basadas en el marketing y que es mejor no capitular ante la presión corporativa para tomarlas rápidamente. La toma de decisiones sensata, por parte de los responsables políticos y las comunidades, requiere tiempo para escuchar a expertos independientes y contextualizar las afirmaciones corporativas. El mejor resultado posible de este verano de bombo es que los responsables políticos y el público en general aprendan a tomarse un respiro, a mantener su escepticismo y a reconocer este tipo de bombo por lo que es la próxima vez que se presente.
Timnit Gebru es directora ejecutiva de DAIR y autora del próximo libro Deep Unlea ing: The Radicalization of a Tech Idealist, que ya está disponible para pedidos anticipados y cuya publicación está prevista para el 16 de febrero. Emily M. Bender es profesora de lingüística en la Universidad de Washington y coautora de The AI Con.