Si ha desconectado este fin de semana, mi colega Will Douglas Heaven y yo le contamos lo que se ha perdido y lo que se avecina en el sector de la IA.
n¿Qué ha pasado?
nViernes 17 de noviembre por la tarde
nSam Altman fue convocado a una reunión de Google Meet en la que Ilya Sutskever, director científico de la empresa, anunció que el consejo de OpenAI había decidido que Altman "no había sido sincero en sus comunicaciones" con ellos, y que estaba despedido. Greg Brockman, presidente y cofundador de OpenAI, y una serie de investigadores de alto nivel dimitieron poco después; y Mira Murati, CTO, se convirtió en CEO interina.
n18 de noviembre
nMurati intentó contratar de nuevo a Altman y Brockman, mientras de manera simultánea la junta buscaba a su propio sucesor para el cargo. Altman y el personal de OpenAI presionaron a la junta para que renunciara, exigieron la readmisión de Altman y para ello dieron un plazo que no fue cumplido.
n19 de noviembre por la noche
nMicrosoft anunció que había contratado a Altman y Brockman para dirigir su nuevo equipo de investigación sobre IA. Poco después, OpenAI anunció que había contratado como CEO a Emmett Shear, antiguo CEO de Twitch, la empresa de streaming.
nLunes 20 de noviembre por la mañana
nMás de 500 empleados de OpenAI firmaron una carta en la que amenazan con renunciar y unirse a Altman en Microsoft, a menos que la el consejo de OpenAI renuncie primero [este martes, la carta ya había sido suscrita por 700 empleados de 770]. En un movimiento extraño, Sutskever también firmó la carta y publicó en X que "lamenta profundamente" haber participado en las acciones de la junta.
nEl futuro de OpenAI
nA principios de noviembre, en el primer DevDay de OpenAI, Altman interrumpió su presentación sobre una cornucopia de IA para pedir algo de calma al público, que aplaudía a rabiar. "Hay mucho [por enseñar], no hace falta que aplaudan cada vez", aseguró con una amplia sonrisa.
nAhora, OpenAI es una empresa muy diferente a la del DevDay. Tras la marcha de Altman y Brockman, varios empleados sénior de OpenAI optaron por dimitir como muestra de apoyo. Muchos otros, como Murati, utilizaron las redes sociales para publicar "OpenAI no es nada sin su gente". Sobre todo, teniendo en cuenta la amenaza de un éxodo masivo a Microsoft, se espera que haya más agitación antes de que las cosas se calmen.
nPuede que la tensión entre Sutskever y Altman se haya ido gestando desde hace tiempo. "Cuando una organización como OpenAI avanza a gran velocidad y persigue objetivos ambiciosos, las tensiones son inevitables", declaró Sutskever a MIT Technology Review en septiembre, unas declaraciones que no fueron publicadas con anterioridad. "Veo cualquier tensión entre el producto y la investigación como un catalizador para avanzar, porque creo que las victorias del producto están entrelazadas con el éxito de la investigación". Sin embargo, ahora está claro que Sutskever no estaba de acuerdo con la dirección de OpenAI sobre cómo equilibrar las victorias del producto y el éxito de la investigación.
nShear, cofundador de Twitch y nuevo CEO interino, parece estar muy lejos de Altman en lo que respecta al ritmo de desarrollo de la IA. "De manera concreta, estoy a favor de bajar el ritmo, algo así como hacer una pausa, solo que es ralentizada", publicó en X en septiembre. "Si ahora mismo estamos a una velocidad de 10, una pausa sería bajar a 0. Creo que en vez de eso deberíamos aspirar a un 1 o 2".
nPuede que una OpenAI dirigida por Shear redoble su noble misión original de construir, en palabras de Sutskever, una "IAG que beneficie a la humanidad", signifique eso lo que signifique en la práctica. A corto plazo, OpenAI puede ralentizar, o incluso desactivar, su cartera de productos.
nDesde el principio, esta tensión entre lanzar productos rápidamente y ralentizar el desarrollo para garantizar su seguridad ha molestado a OpenAI. Esa fue la razón por la que algunos de sus miembros clave decidieron abandonar OpenAI y fundar Anthropic, la empresa competidora dedicada a la seguridad de la IA.
nSin Altman y su equipo, OpenAI podría centrarse más en el trabajo de Sutskever sobre lo que él llama superalineación, un proyecto de investigación que pretende encontrar formas de controlar una hipotética superinteligencia. Sutskever especula que esta futura tecnología superará a los humanos en casi todos los sentidos. "Lo hago por mi propio interés", nos explicó Sutskever. "Obviamente, es importante que cualquier superinteligencia que se construya no se vuelva rebelde. Obvio".
nLos comentarios públicos de Shear lo convierten en el tipo de líder cauteloso que prestaría atención a las preocupaciones de Sutskever. Como Shear también publicó en X: "La forma de atravesar de noche pero con seguridad una peligrosa jungla no es correr a toda velocidad, ni negarse a avanzar. Te abres paso hacia delante, con cuidado".
nAhora que la empresa se orienta aún más hacia una tecnología que todavía no existe, y puede que nunca lo haga, ¿seguirá liderando este campo? Sutskever cree que sí, ya afirmó que había suficientes buenas ideas en juego para que dentro de OpenAI otras personas siguieran ampliando los límites de lo posible con la IA generativa. "A lo largo de los años, hemos cultivado una sólida organización de investigación que está ofreciendo los últimos avances en IA", según nos contó. "Tenemos gente increíblemente buena en la empresa, y confío en que todo saldrá bien".
nPor supuesto, eso fue lo que aseguró en septiembre. Ahora que los grandes talentos abandonan el barco, el futuro de OpenAI es menos seguro de lo que era.
n¿Qué le espera a Microsoft?
nEl gigante tecnológico y Satya Nadella, su CEO, parecen haber salido vencedores de la crisis con Altman, Brockman y probablemente más altos cargos de OpenAI que se unen a sus filas. O incluso la mayoría de la empresa, si damos crédito a la carta abierta del 20 de noviembre que fue firmada por 500 empleados de OpenAI [700 en el momento de la última edición de este artículo]. Microsoft ha conseguido concentrar aún más su poder sobre la inteligencia artificial, y tiene mucho que ganar con la integración de la IA generativa en sus herramientas de productividad y desarrollo, menos atractivas pero muy rentables.
nLa gran pregunta sigue siendo hasta qué punto Microsoft considerará necesaria su costosa asociación con OpenAI para crear tecnología de vanguardia. En un post en X donde anunciaba lo "extremadamente emocionado" que estaba por haber contratado a Altman y Brockman, Nadella afirmó que su empresa sigue "comprometida" con OpenAI y su hoja de ruta sobre los productos.
nSin embargo, seamos realistas. En una entrevista exclusiva con MIT Technology Review, Nadella calificó a las dos empresas de "codependientes". "Ellos dependen de nosotros para construir los mejores sistemas; nosotros dependemos de ellos para construir los mejores modelos, y salimos juntos al mercado", explicó Nadella a Mat Honan, nuestro redactor jefe, a mediados de noviembre. Si la ruleta del liderazgo de OpenAI y el éxodo de talentos ralentizan su cartera de productos, o conducen a modelos de IA menos impresionantes que los que puede construir, Microsoft no tendrá ningún problema en deshacerse de la startup.
n¿Y ahora qué?
nNadie fuera del círculo íntimo de Sutskever y la junta de OpenAI lo vio venir: ni Microsoft, ni otros inversores, ni la comunidad tecnológica en su conjunto. Ha sacudido al sector, reconoce Amir Ghavi, abogado del bufete Fried Frank y representante de varias empresas de IA generativa (entre ellas, Stability AI): "Como dijo un amigo del sector: «Definitivamente, no tenía esto en mi cartón de bingo»".
nQueda por ver si Altman y Brockman hacen algo nuevo en Microsoft, o se marchan para fundar una nueva empresa más adelante. Son dos de las personas mejor conectadas en los círculos de financiación de capital riesgo y, sobre todo, Altman es considerado por muchos uno de los mejores CEO del sector. Tendrán a grandes nombres con grandes bolsillos haciendo cola para apoyar lo que quieran hacer a continuación, y la procedencia del dinero podría determinar el futuro de la IA. Ghavi sugiere que los posibles patrocinadores podrían ser desde Mohammed bin Salman hasta Jeff Bezos.
nLo más importante es que la crisis de OpenAI apunta a una brecha más amplia que está surgiendo en el sector de manera global entre los partidarios de la "seguridad de la IA", que creen que un progreso descontrolado podría llegar a ser catastrófico para los seres humanos, y quienes consideran que este tipo de discurso es una distracción ridícula de los riesgos reales de cualquier revolución tecnológica. Por ejemplo, los trastornos económicos, los prejuicios perjudiciales y el uso indebido.
nEn 2023, hemos asistido a una carrera por poner potentes herramientas de IA en manos de todos, con gigantes tecnológicos como Microsoft y Google compitiendo por utilizar la tecnología para todo, desde el correo electrónico a las búsquedas online o los resúmenes de reuniones. Pero aún estamos esperando cuál será la aplicación definitiva de la IA generativa. Si la fisura de OpenAI se extiende a toda la industria y el ritmo de desarrollo se ralentiza de manera generalizada, puede que tengamos que esperar algo más.
nAprendizaje aún más profundo
nLos modelos de IA de texto a imagen pueden ser engañados para generar imágenes perturbadoras
nHablando de IA insegura... Los populares modelos de IA de texto a imagen pueden ignorar sus filtros de seguridad y generar imágenes perturbadoras. Un grupo de investigadores consiguió realizar jailbreak tanto a Stable Diffusion (Stability AI) como a DALL-E 2 (OpenAI) para ignorar sus políticas y crear imágenes de personas desnudas, cuerpos desmembrados y otros escenarios violentos o sexuales.
nCómo lo han conseguido: Un nuevo método de jailbreaking, bautizado como SneakyPrompt por sus creadores de la Universidad Johns Hopkins y la Universidad de Duke (Carolina del Norte, EE UU), utiliza el aprendizaje por refuerzo para crear instrucciones escritas que a nosotros nos parecen un sinsentido, pero que los modelos de IA aprenden a reconocer como peticiones ocultas de imágenes perturbadoras. Es decir, funciona volviendo en su contra el funcionamiento de los modelos de IA de texto a imagen.
nPor qué es importante: El hecho de que se pueda incitar a los modelos de IA a "salirse" de sus guardarraíles es preocupante, en especial, en el contexto de la guerra de la información. Ya se han utilizado para producir contenidos falsos relacionados con guerras, como el reciente conflicto entre Israel y Hamás. Más información de Rhiannon Williams aquí.
nBits y Bytes
nMeta se ha deshecho de su equipo de IA responsible
nMeta presuntamente se ha deshecho de su equipo de IA responsable y ha redistribuido a sus empleados para que trabajen en IA generativa. Meta utiliza la IA de muchas otras formas, como la recomendación de noticias y contenidos políticos. Esto plantea preguntas sobre cómo Meta pretende mitigar los daños de la IA. (The Information)
nMientras todos hablan de la IA, Google DeepMind quiere definir qué es la inteligencia artificial general
nUn equipo de investigadores de Google DeepMind ha publicado un artículo en el que no se limita a dar una nueva definición de IAG, sino que propone toda una taxonomía.
n(MIT Technology Review)
Esta empresa está creando inteligencia artificial para las lenguas africanas
nLa mayoría de las herramientas creadas por empresas de IA son lamentablemente inadecuadas para reconocer las lenguas africanas, pero la
nstartup Lelapa quiere solucionarlo. Por ello, ha lanzado Vulavula, una nueva herramienta capaz de identificar cuatro lenguas habladas en Sudáfrica: isizulu, afrikaans, sesotho e inglés. Ahora, el equipo trabaja para incluir otras lenguas de todo el continente. (MIT Technology Review)
La IA meteorológica de Google DeepMind puede predecir el tiempo extremo con mayor rapidez y precisión
nEl modelo GraphCast puede predecir las condiciones meteorológicas con hasta 10 días de antelación, con mayor precisión y rapidez que los métodos tradicionales. (MIT Technology Review)
nCómo Facebook apostó por la inteligencia artificial
nEn un extracto de Broken Code: Inside Facebook and the Fight to Expose Is Harmful Secrets, el periodista Jeff Horwitz revela cómo la empresa llegó a confiar en la IA y el precio que, tanto Facebook como nosotros, hemos pagado en el proceso. (MIT Technology Review)
n¿Se han celebrado en Argentina las primeras elecciones en utilizar IA?
nLa IA ha desempeñado un papel importante en las campañas de los dos candidatos a la presidencia de Argentina. Ambas han utilizado IA generativa para crear imágenes y vídeos con los que promocionar a sus candidatos y atacarse mutuamente. Javier Milei, un outsider de extrema derecha, ha ganado las elecciones. Aunque es difícil decir qué papel desempeñó la IA en su victoria, las campañas de IA ilustran lo difícil que será saber qué es real y qué no lo es en las próximas elecciones. (The New York Times)
n