Innovadores menores de 35 2026 · Inteligencia artificial · Anthropic · Edad 32
Aun cuando la inteligencia artificial se entrelaza cada vez más con nuestras vidas, mucho sobre los modelos subyacentes sigue siendo un misterio. Los detalles son a menudo escasos en cuanto a los datos con los que se entrenan, o los daños que podrían causar. Esto se debe en gran medida a que hemos dependido de las empresas de IA impulsadas por el lucro para que informen por sí mismas. Shayne Longpre, de 32 años, recién doctorado del MIT Media Lab y que acaba de unirse a Anthropic, lleva años trabajando para cambiar esta asimetría de información.
En 2023, lanzó la Iniciativa de Procedencia de Datos (DPI), un proyecto de investigación global que examina sistemáticamente los sistemas de IA desde cuatro ángulos: (1) rastreando los orígenes, licencias y permisos de los conjuntos de datos utilizados para entrenar modelos públicos y privados; (2) midiendo cómo está cambiando inte et en respuesta a la tecnología; (3) monitorizando los cambios en la dinámica de poder entre países, empresas y desarrolladores; y (4) estudiando cómo diferentes grupos usan o hacen un mal uso de la IA. Su investigación ha demostrado, por ejemplo, que inte et se está volviendo más cerrado a medida que los sitios web intentan evitar que los rastreadores web de IA entrenen con su contenido, y que las descargas de modelos de IA de código abierto chinos han superado a las de los modelos fabricados en EE. UU.
La creación de DPI también mostró a Longpre la importancia de asegurar un acceso independiente a los sistemas de IA. Las empresas de IA a veces han tenido términos de servicio estrictos y han prohibido las cuentas de investigadores que prueban las salvaguardias. En 2024, Longpre fue coautor de una carta abierta, firmada por más de 350 partes interesadas, instando a las empresas a proporcionar espacios seguros para las personas que realizan este tipo de evaluación. Tras la publicación, OpenAI amplió las protecciones a algunos investigadores, y la Ley de IA de la Unión Europea adoptó una política similar que permite el 'red teaming'.
Ahora ha pasado a trabajar inte amente en Anthropic. Espera continuar con la tarea urgente de construir la infraestructura necesaria para hacer observables los sistemas de IA. A medida que los agentes se vuelven más populares —e interactúan cada vez más entre sí—, los investigadores tendrán que mirar más allá de los modelos individuales para evaluar el ecosistema de IA más amplio, lo que requerirá aún más de la colaboración que el trabajo de Longpre ha hecho posible.