La nueva encíclica del Papa León XIV sobre inteligencia artificial incluye una afirmación que merece seria atención por parte de tecnólogos y responsables políticos: “La tecnología nunca es neutral.” Magnifica Humanitas (“Humanidad Magnífica”) es un llamamiento contundente a todas las personas para que actúen con coraje y solidaridad mientras entramos en una era que ya está siendo transformada por la inteligencia artificial, el mayor cambio en la vida humana desde la Revolución Industrial. Como dice el Papa, la elección que tenemos ante nosotros —la elección que presenta la IA— es una entre la Torre de Babel y la reconstrucción de nuestra humanidad común.
En la historia bíblica de la Torre de Babel, los humanos intentaron construir una estructura masiva que llegara hasta el Cielo, solo para ver su proyecto frustrado cuando Dios impidió que los involucrados se entendieran entre sí. Fue una búsqueda obsesionada con el crecimiento implacable, divorciada de cualquier preocupación por los mandamientos de Dios o el coste humano. Resultó en fracaso y atomización.
El Libro de Nehemías, sin embargo, ofrece una narrativa contrastante, en la que la reconstrucción de Jerusalén después de un período de violencia y desplazamiento se convierte en una oportunidad para que la humanidad muestre su resiliencia colaborativa. Como señala la encíclica: “La ciudad renace, no por iniciativa de un solo hombre, sino a través de la responsabilidad compartida de todos: hombres, mujeres, sacerdotes, artesanos, cabezas de familia y jóvenes, todos desempeñan un papel. Es una empresa con Dios en el centro, que reconstruye relaciones antes de reconstruir con piedras”.
¿Acaso cabe alguna duda sobre el camino por el que nos precipitamos actualmente? ¿Y puede haber alguna duda sobre el que haríamos bien en recorrer juntos?
Ambos somos católicos, miembros de comunidades religiosas y defensores de larga trayectoria dentro del movimiento por la inversión socialmente responsable. De particular interés para nosotros y para ese movimiento es la tesis del Papa León de que la IA no es una fuerza de la naturaleza o una entidad hiperracional e inefable. En cambio, nos recuerda, la IA es, en última instancia, otro producto comercial, uno que surge en un momento de la historia en que un poder excesivo sobre el comercio y la sociedad en general se ha acumulado en un número extremadamente reducido de manos.
Es un mensaje potente. También es uno que los inversores institucionales llevan años aplicando. Esta encíclica no abre nuevos caminos, sino que más bien ratifica un esfuerzo de gobe anza que ya está en marcha, liderado no por estados u organismos inte acionales, sino por los accionistas. Cuando los gobie os no logran regular de forma significativa, y no se puede confiar en que las corporaciones hagan lo que es beneficioso más allá de su propio beneficio, la sociedad todavía tiene el poder de encamina os por la senda correcta, y de hecho tiene el deber de hacerlo.
A nivel mundial, los sistemas de IA se están desplegando a gran escala con una supervisión institucional notablemente escasa. No existe un consejo de seguridad de IA. La Comisión Federal de Comercio de EE. UU. tiene jurisdicción sobre prácticas desleales, pero una autoridad limitada sobre el diseño algorítmico. El Instituto Nacional de Estándares y Tecnología publica directrices que la mayoría de las empresas ignoran. La Ley de IA de la UE está parcialmente en vigor, pero aborda solo una pequeña porción del ámbito de despliegue.
Los inversores institucionales han ocupado este vacío. Coaliciones, incluida la membresía del Interfaith Center on Corporate Responsibility, que representan a inversores que gestionan más de 400.000 millones de dólares en activos, han dedicado las últimas varias campañas de delegación de voto a presentar resoluciones que exigen transparencia, evaluación de riesgos y rendición de cuentas en to o al despliegue de la IA. A ellos se han unido inversores institucionales seculares, considerando los fallos en la gobe anza de la IA como riesgos empresariales materiales.
Los accionistas han pedido cuentas a gigantes tecnológicos, incluyendo Alphabet, Amazon, Nvidia, Palantir y Uber, y han exigido que la IA no se utilice para actos de violencia u otras violaciones de los derechos humanos. La importancia de este aspecto de la gobe anza corporativa se destacó trágicamente en las primeras horas de la guerra contra Irán, cuando la IA se utilizó para ayudar a identificar objetivos para miles de ataques con misiles que mataron a cientos de personas.
Los inversores también han instado a los ejecutivos de CVS y UnitedHealth Group a garantizar que la IA no se utilice para socavar el bienestar de los pacientes y la calidad de la atención sanitaria en todo Estados Unidos.
En empresas como Meta y Microsoft, los accionistas han denunciado el impacto ambiental de los centros de datos de IA, que consumen grandes cantidades de energía y valiosos recursos hídricos, y, a su vez, pueden emitir grandes cantidades de gases de efecto inve adero.
En las industrias creativas, los inversores han cuestionado a la directiva de empresas como Disney, Netflix y Wa er Bros. para exigir transparencia sobre las formas en que están utilizando la IA y para defender el inimitable elemento humano en la narrativa.
En breve, con OpenAI, Anthropic y Grok todas a punto de salir a bolsa, podremos ejercer una influencia similar sobre lo que ahora son todas entidades de capital privado.
Estas acciones de los inversores preocupados no solo denuncian malas prácticas, sino que se aferran a una verdad inmutable: que es incorrecto utilizar la tecnología para matar, dañar u oprimir a las personas. Todo ser humano tiene derecho a una atención sanitaria segura y eficaz y a la oportunidad de ganarse la vida dignamente. Las historias que nos contamos importan y requieren la chispa creativa humana.
Los defensores de los inversores provienen de un amplio abanico de tradiciones de fe. Algunos no tienen ninguna fe religiosa formal. Sin embargo, en su defensa informada y tenaz, todas estas personas se hacen eco de los llamamientos recogidos en la encíclica del Papa León y actúan conforme a su declaración de que «es esencial que el uso de la IA, especialmente cuando afecta a bienes públicos y derechos fundamentales, se guíe por criterios claros y una supervisión eficaz».
Las encíclicas marcan el tiempo. Dentro de un siglo, ¿cómo seremos recordados por cómo afrontamos este momento? ¿Se nos considerará demasiado tímidos o miopes como para evitar que un pequeño grupo de personas inmensamente ricas y con intereses propios se hiciera con un control cada vez mayor sobre el destino compartido de la familia humana?
¿O se recordarán los próximos años como un punto de inflexión que nos ayudó a reconstruir nuestra humanidad compartida? Que este sea un momento en el que personas de buena voluntad y talentos diversos se unan, a través de su propia y magnífica humanidad, para construir un futuro que honre a nuestro Creador.
Padre Séamus Finn, OMI, es un referente mundial en inversión basada en la fe y socialmente responsable, y sacerdote de los Oblatos de María Inmaculada, una congregación religiosa misionera.
La Hermana Susan Francois es la líder asistente y tesorera de la congregación de las Hermanas de San José de la Paz.