Como senador estatal de California, Scott Wiener redactó una legislación destinada a mitigar los riesgos de la IA avanzada. Ahora, tras ganar una reñida contienda al Congreso por el escaño vacante por San Francisco de la expresidenta de la Cámara de Representantes Nancy Pelosi, podría desempeñar un papel clave en la definición de la política federal sobre IA.
Hablé con Wiener el viernes, apenas unas horas después de que fuera proclamado vencedor. Pero ya estaba pensando en los riesgos de la IA. El día anterior, la organización sin ánimo de lucro METR, dedicada a la IA, había publicado un informe que se interpretó de forma generalizada como una prueba de que Anthropic había alcanzado la automejora recursiva, un fenómeno en el que la IA contribuye de manera significativa a su propio avance y el progreso de esta tecnología puede descontrolarse potencialmente.
«Es muy preocupante», afirmó Wiener, citando el informe como prueba de que se nos está agotando rápidamente el tiempo para regular la IA. «Tenía la esperanza de que el Congreso tomara medidas decisivas antes de [finales de] este año», señaló. «No parece que eso vaya a suceder».
Wiener se ha centrado cada vez más en la IA en los últimos años y ha hecho suyas muchas de las preocupaciones del movimiento por la seguridad de la IA: durante nuestra conversación de 20 minutos, por ejemplo, utilizó la expresión «automejora recursiva» media docena de veces. «Tenemos que frenar esto», afirma. «Porque avanza muy rápido y podríamos caminar como sonámbulos hacia un desastre».
Wiener ya ha ejercido una influencia real en las políticas de IA. El proyecto de ley SB 1047, del que fue autor en 2024, estaba destinado a convertirse en la primera legislación real sobre IA de frontera del país antes de ser vetado por el gobernador de California, Gavin Newsom; más adelante, promovió el SB 53, un proyecto de ley más moderado que Newsom sí firmó. Ambas iniciativas han servido de inspiración para propuestas legislativas a nivel federal.
La campaña de Wiener al Congreso recibió más de 3 millones de dólares de Public First Action, una organización sin ánimo de lucro partidaria de regular la IA que recibe una financiación sustancial de Anthropic. Esa aportación llevó a sus detractores a criticarle por estar demasiado próximo a la industria de la IA, pero Wiener asegura que nada podría estar más lejos de la realidad.
«Public First me apoyó porque fui el primer legislador del país en presentar una regulación sobre la IA y el primero en aprobarla y lograr que se implementara», escribió en un mensaje tras nuestra entrevista. «Los ataques contra mí por el apoyo [de Public First] fueron asombrosamente cínicos —literalmente atacaban a un candidato que realmente reguló la IA frente a la oposición de las Big Tech y afirmaban falsamente que el candidato está, de algún modo, demasiado próximo a las Big Tech».
Wiener afirma que si el Congreso crea una comisión especial sobre inteligencia artificial —algo que los demócratas llevan debatiendo desde septiembre—, estaría encantado de formar parte de ella. Y se muestra entusiasmado con muchas de las propuestas políticas que circulan por el Congreso. «Creo que es muy importante contar con un regulador federal fuerte, capacitado y ágil», señala, recordando que el congresista Ro Khanna, también demócrata por California, ha propuesto una ley para crear dicho organismo regulador.
También destaca la importancia de proteger a los denunciantes, de los requisitos de pruebas y auditorías, y de la exigencia de un botón de apagado de emergencia, y quiere que el Congreso aproveche sus poderes de supervisión para pedir cuentas a los laboratorios de IA. «Se trata del futuro de la humanidad, y queremos asegurarnos de que la ciudadanía tenga voz y sepa lo que está pasando», sostiene.
Y, como veterano legislador estatal, se opone a una amplia prevalencia federal sobre las leyes estatales de IA, algo que exigirían algunas de las propuestas legislativas a nivel federal. «Los estados son, como decía Brandeis, laboratorios», señala. «Lo que se busca es que los estados puedan seguir siendo ágiles de un modo en que el Congreso a veces no lo es».
Por encima de todo, afirma Wiener, quiere que el Congreso apruebe políticas con garra. «Es de vital importancia que, cuando el Congreso actúe, lo hagamos de una forma verdaderamente significativa y que esté a la altura del momento», señala. Eso implica tomarse en serio la posibilidad de una catástrofe provocada por la IA, algo que aborda con el tipo de lenguaje que suelen utilizar los expertos en seguridad de la IA. «Nos encontramos en un momento muy peligroso en cuanto al riesgo de perder el control sobre la IA», me explicó. «Tenemos que abordar la automejora recursiva. Una vez que entras en ese terreno, es potencialmente la receta perfecta para una pérdida total del control».
Contará con algunos aliados en la lucha contra el riesgo catastrófico de la IA. El senador Bernie Sanders, por ejemplo, se ha reunido con muchas de las figuras más influyentes del movimiento por la seguridad de la IA y se ha pronunciado en repetidas ocasiones sobre la IA y el riesgo existencial. Sin embargo, todavía existe una gran brecha entre la perspectiva de Wiener, marcada por la fijación con la IAG propia del Área de la Bahía, y el sentir general del país sobre la IA, anclado en la oposición a los centros de datos. Que los votantes aprobaran el martes 40 de las 41 iniciativas electorales contra los centros de datos podría parecer una buena señal para Wiener y otros partidarios de regular la IA, pero Wiener afirma que ve este movimiento mucho más vinculado a preocupaciones locales que a cuestiones de mayor calado sobre los riesgos de esta tecnología.
«Las personas que se oponen de verdad al rumbo que está tomando la IA tienen aquí un terreno en el que realmente pueden hacer algo al respecto», señala. «Pero la rebelión contra los centros de datos... a mi juicio, creo que se debe más a que a la gente le molesta tener algo así en su comunidad, con todo el impacto que supone cerca de sus hogares, disparando las facturas de la luz y consumiendo agua. Por lo que veo, creo que ese es el mayor problema para la mayoría».
Wiener se define solo como «cautamente optimista» respecto a la capacidad del Congreso para meter en cintura a la IA, dado su deficiente historial a la hora de regular el sector tecnológico. También le preocupa la posibilidad de sacar adelante leyes con el presidente Donald Trump, quien en septiembre calificó de «farsa» la preocupación por el riesgo catastrófico de la IA y ha demostrado una absoluta falta de voluntad para colaborar con China, algo que Wiener considera esencial para evitar las peores consecuencias de la IA.
Pero afirma que la imprevisibilidad de Trump ofrece cierta esperanza, aunque se trate de una esperanza cargada de inquietud. «Hasta ahora, lo que hemos visto son algunas cosas problemáticas, pero no desastres absolutos», señala Wiener. «Espero que no haga falta un desastre para impulsar al presidente a actuar. Y espero que, si eso es lo que hace falta —lo cual, como he dicho, espero que no sea el caso—, pero si ocurre, espero que sea lo más pequeño posible».