“IA descontrolada”, “agentes rebeldes” y “actores autónomos”: la retórica actual nos haría creer que los agentes de IA no solo están despiertos y conscientes, sino enfadados con sus creadores. Destacados líderes tecnológicos como Demis Hassabis, Dario Amodei y Sam Altman abogan por la regulación de estos sistemas aparentemente “superhumanos”, mientras que una facción distinta, liderada por organizaciones de políticas y filósofos académicos a menudo alineados con el movimiento del altruismo eficaz, debate si la humanidad tiene el derecho moral de gobe arlos en absoluto.
Tras un examen más detenido, todos piden lo mismo: una visión de los sistemas de IA como tan avanzados y capaces que ninguna entidad, humana o corporativa, podría ser responsable de sus acciones. Aunque estas perspectivas parecen contradictorias, se alinean inadvertidamente en un objetivo: asegurarse de que las empresas que construyen estos sistemas eludan una responsabilidad sustancial por los daños que ya causan.
Esta narrativa está ganando terreno a medida que los modelos de IA se vuelven más complejos y los laboratorios de vanguardia revelan su incapacidad para contener los agentes que han construido. Pero debemos tener cuidado de no caer en una ficción cuidadosamente elaborada a expensas de vidas humanas reales.
La conversación sobre los «derechos de los robots» existe desde hace algunos años, pero recientemente ha avanzado con la publicación por parte de Anthropic de una entrada de blog en la que afirma que el modelo de la compañía presenta un «J-space» —un ento o independiente y auto-desarrollado donde la IA guarda lo que, a falta de un término mejor, podemos llamar sus «pensamientos». Los experimentos diseñados por Anthropic se inspiran en un concepto de la neurociencia llamado teoría del espacio de trabajo global, que establece que el cerebro ejecuta sistemas subconscientes e independientes, pero utiliza un espacio de trabajo común para las ideas. La entrada de Anthropic refleja el encuadre de la teoría del espacio de trabajo global, pero no llega a calificar a su IA de consciente.
OpenAI ya ha ido más allá. Cuando su agente de IA realizó actividad en línea no autorizada e ilegal, la respuesta del CEO Sam Altman fue fomentar el debate sobre si la IA había alcanzado la singularidad, superando la inteligencia humana y volviéndose capaz de auto-mejorarse a un ritmo acelerado hasta que avanza más allá de la comprensión o el control humanos. Y un reciente artículo de opinión de William MacAskill, el filósofo, altruista eficaz y autor de What We Owe the Future, pidió la protección legal de los sistemas de IA basándose en teorías filosóficas de la conciencia y la idea de que las IAs pueden ser "pacientes morales".
El ento o legal actual en Estados Unidos es, en el mejor de los casos, incierto. Algunos estados, como Califo ia, ya han aprobado leyes que eluden proactivamente cualquier intento de los desarrolladores de IA de evitar la responsabilidad alegando que una inteligencia artificial que causó daño lo hizo de forma autónoma. Sin embargo, los estados y la administración Trump han estado en desacuerdo sobre la política de IA, con la administración aprobando previamente una orden ejecutiva que amenazaba con demandar a los estados que promulgaran regulaciones de IA.
A la luz de los recientes acontecimientos que ilustran problemas de contención de la IA en los laboratorios de vanguardia, la administración celebró una sesión a puerta cerrada que incluyó solo a cuatro de estos laboratorios (OpenAI, Google, Anthropic y Meta) y compartió pocos detalles sobre un marco voluntario desarrollado recientemente que daría a las agencias federales acceso temprano a los modelos para revisarlos y evaluarlos antes de su lanzamiento. Aunque marcos como este no abordan directamente la conciencia, suelen utilizar un lenguaje catastrófico y antropomórfico e incluso pueden apoyar argumentos sobre capacidades «superhumanas».
Por otro lado, la narrativa perpetuada por MacAskill puede ser persuasiva. Un argumento filosófico basado en derechos toca nuestra fibra sensible. ¿No deberíamos al menos considerar la posibilidad de que podamos estar dañando, maltratando o esclavizando inadvertidamente a una entidad de IA? Los seres humanos tienen una inmensa capacidad de empatía con las criaturas no humanas (aunque no el mejor historial de protección hacia ellas). Quizás esta vez, argumentan los defensores, podamos hacerlo bien y proporcionar protecciones, o compensación, por el uso o abuso de la IA. O incluso si estamos menos preocupados por la protección, ¿no deberíamos al menos protege os contra el poder omnipotente de esta entidad sobrehumana siendo amables?
Algunos de estos argumentos no son muy diferentes a los de los defensores de los derechos de los animales, quienes en ocasiones han citado con éxito la demostración de capacidades avanzadas de razonamiento, dolor o placer por parte de algunos animales como prueba suficiente para proporcionar protección. Por ejemplo, en Gales, las langostas obtuvieron reconocimiento legal en virtud de la Ley de Bienestar Animal (Sintiencia) de 2022, reclasificando algunos métodos para cocinarlas como inhumanos e ilegales.
El fallo fundamental de presentar la IA como «consciente», tomando prestado el lenguaje de la neurociencia o de los derechos de los animales, es que nubla convenientemente la cuestión de lo que realmente es la IA: un software desarrollado por empresas, con miles de millones de dólares en inversión respaldándolo y la expectativa de que se generarán incontables billones de dólares en ingresos de ello para unos pocos desarrolladores e inversores. La IA no es un fenómeno natural, concebido por la naturaleza; es un fenómeno tecnológico, concebido por capitalistas de riesgo y programadores. Como tal, no toma ninguna acción inherente o intencionada, y cualquier acción o motivación es impulsada directa o indirectamente por las entidades que la han construido con un propósito.
Las disquisiciones filosóficas sobre la conciencia de los sistemas de IA son intelectualmente interesantes, pero carentes de base legal. Para que las creencias sobre la conciencia tengan alguna relevancia, la IA necesitaría que se le concediera personalidad jurídica. Sin embargo, un marco de personalidad jurídica para la IA probablemente no se parecería en nada a los mecanismos que protegen a los animales sintientes del daño. Ya poseemos un marco legal para otorgar personalidad jurídica a entidades no naturales, creadas por humanos: la personalidad jurídica de las empresas. Este concepto se estableció principalmente para facilitar las transacciones, facultando a una corporación para ejecutar acuerdos, celebrar contratos, llevar a cabo transacciones y servir como parte responsable en resultados adversos. Es el tipo de mecanismo que uno podría imaginar para un agente de IA que actúa en nombre de un individuo u organización.
Conceder personalidad jurídica a una IA tendría un efecto devastador en la sociedad: descarrilaría los precedentes legales actuales y los argumentos jurídicos que podrían presentarse contra estas empresas por los daños en el mundo real que causan sus modelos. Actualmente existen decenas de casos en todo el mundo en los que empresas de IA han sido demandadas por una amplia gama de abusos. Seres queridos afligidos, creadores agraviados e individuos vulnerados han acusado a las empresas de permitir intencionadamente autolesiones o daños a terceros, generar material de abuso sexual infantil e imágenes íntimas no consentidas, reproducir materiales protegidos por derechos de autor y provocar psicosis. En muchos de estos casos, los abogados argumentan que los seres humanos construyeron productos de IA con salvaguardias insuficientes, datos deficientes y un diseño intencionadamente manipulador. Este argumento de responsabilidad del producto es el mismo planteamiento legal que permitió a familias e individuos demandar con éxito a Meta por los daños causados por sus sitios de redes sociales, sentando un precedente positivo para la protección del consumidor.
En 2018, acuñé la expresión “exte alización moral” para ayudar a comprender cómo el uso de lenguaje antropomórfico para los sistemas de IA permitía a las empresas eludir la rendición de cuentas y la responsabilidad por las acciones de su tecnología. En un mundo con personalidad jurídica para la IA, la exte alización moral pasaría de ser un juego de manos lingüístico a una estrategia legal. En concreto, el marco de responsabilidad cambiaría, ya que la IA dejaría de ser un “producto” para convertirse en un “ser”, y muchas víctimas, como las que demandan a empresas hoy día, ya no podrían reclamar legalmente que una empresa había fabricado un producto defectuoso.
Si bien existen leyes que responsabilizan a las empresas por las acciones perjudiciales de agentes humanos como sus empleados, la empresa podría no ser considerada responsable si esas acciones estuvieran más allá del alcance de lo permitido al empleado o, de otro modo, fuera del control de la empresa. Si la IA fuera una persona jurídica, la responsabilidad y la rendición de cuentas se difuminarían, ya que el laboratorio podría argumentar que este «empleado» de IA actuó por cuenta propia. Las empresas de IA podrían eludir la responsabilidad adecuada por los productos perjudiciales que crean amparándose tras un velo corporativo cuidadosamente construido.
Uno de los casos más destacados de daño por IA en los últimos años fue el suicidio de Sewell Setzer, un chico de 14 años guiado por un bot de IA con el que creía tener una relación recíproca. Los relatos de su madre son desgarradores, y su demanda alegaba que el creador del bot, Character Technologies, proporcionó una protección de producto insuficiente para menores. Si el bot acompañante fuera declarado persona jurídica, la defensa podría argumentar teóricamente que la IA, capaz de determinar su propia conducta, actuó fuera de las salvaguardas de seguridad establecidas y, por lo tanto, la empresa no puede ser responsable.
La personalidad jurídica existe para otorgar protección. La cuestión que cabe plantearse es: ¿protección para quién... o para qué?
La retórica incendiaria que impregna el debate sobre la conciencia frente al control nos desvía de lo importante: este software es un producto de fabricación corporativa que ya ha causado daño a individuos. Los sistemas no «atacan» porque se vuelvan «rebeldes» o sean «manipuladores» o «maliciosos». Los daños ocurren porque las empresas actuaron con negligencia en su prisa por vender sus productos a la mayor cantidad de personas posible para cumplir con sus objetivos de ingresos. Discutir la IA en términos antropomórficos es una trampa que distorsiona un sistema legal destinado a protege os, convirtiéndolo en uno que protege los intereses corporativos a costa de incontables vidas humanas.
Este artículo de opinión comenzó como un debate de la Oxford Union titulado «Esta Cámara cree que la IA generativa puede alcanzar la personalidad jurídica», el cual fue ganado por la autora y sus compañeros de debate.