Piensa en lo que se considera un éxito en la política tecnológica. Una empresa de IA promete que su chatbot no incitará al suicidio. Una plataforma de redes sociales dificulta que los menores puedan comprar fentanilo. Son protecciones importantes, y deberían haber existido desde el principio. Pero las empresas pueden superar este listón tan bajo mientras siguen creando productos que vuelven a los jóvenes dependientes de amistades simuladas o los dejan atrapados en feeds diseñados para que no dejen de hacer scroll.
Históricamente hemos permitido que el debate sobre la tecnología quede definido por lo peor que podría llegar a hacer un producto, prestando una atención sorprendentemente escasa al daño insidioso que provoca a diario. A medida que nos adentramos en una era marcada por potentes productos de IA, deberíamos exigir a la industria tecnológica algo más que limitarse a atajar perjuicios catastróficos. Deberíamos tomar medidas para garantizar que sus productos no erosionen nuestra forma de pensar, aprender e interactuar entre nosotros.
Un adolescente que desarrolle un apego perjudicial hacia un compañero de IA puede que nunca aparezca en una demanda ni en un periódico, salvo en los casos más extremos. Tampoco lo hará el estudiante que empiece a depender de un chatbot para redactar todos sus trabajos, ni el joven que mida su vida en función del feed de una red social diseñado para provocar envidia y mantenerle enganchado. Un producto puede cumplir con cada uno de los estrictos requisitos de seguridad y, aun así, perjudicar al conjunto de nuestra cultura de formas que no siempre acaparan titulares.
Una definición restrictiva del éxito articulada en torno a la seguridad resulta políticamente conveniente para la industria tecnológica, y las empresas promueven activamente tales definiciones. Tomar medidas para prevenir catástrofes espectaculares es bueno para el negocio: puede traducirse en menos demandas judiciales y en una menor presión para aplicar una regulación estricta. Afrontar las consecuencias cotidianas de la dependencia exigiría algo considerablemente más amenazante para su cuenta de resultados. Podría implicar pedir a las empresas que introduzcan más fricción en sus productos o que limiten activamente la interacción o aquellas funciones que derivan en consecuencias negativas, como los algoritmos adictivos diseñados para secuestrar la atención.
En su lugar, los gigantes tecnológicos han trabajado para moldear la legislación en torno a los perjuicios que ya se ven directamente presionados a abordar. Este año, por ejemplo, Google respaldó proyectos de ley para regular los chatbots de IA en varios estados. La legislación exigía protecciones básicas frente al contenido sexual y la incitación a las autolesiones que las empresas tecnológicas deberían haber implementado de todos modos, pero con amplias excepciones que podrían eximir a algunos de los servicios más populares. La aprobación de estos proyectos permitió a los legisladores atribuirse una victoria en materia de seguridad, mientras que los intentos de promover una legislación más estricta —leyes concebidas para evitar que los menores desarrollen dependencia emocional hacia la IA— fracasaron. Esta estrategia funcionó en estados como Nebraska, dando lugar a una legislación con una fuerte influencia de la industria a expensas de iniciativas que habrían ido más lejos a la hora de exigir responsabilidades a las empresas.
Ya hemos vivido una versión de esto con las redes sociales. A escala mundial, los usuarios de internet pasan ahora una media de más de dos horas al día en las plataformas de redes sociales; un tiempo que se ha ido sustrayendo sigilosamente a la vida cotidiana para entregárselo a empresas cuyos beneficios dependen de retenernos en ellas. Nadie, salvo quizás unos pocos directores ejecutivos de tecnológicas, quería que estos algoritmos ocuparan una parte tan grande de nuestras horas de vigilia, y su ingeniería cultural puede llegar a contribuir a la violencia a una escala devastadora. Las plataformas de Meta han sido señaladas por contribuir al genocidio rohinyá en Myanmar, a los disturbios antimusulmanes en Sri Lanka y a presuntos llamamientos a la violencia durante la guerra de Tigray en Etiopía. Los mismos incentivos operan en los «feeds» que moldean la forma en que los jóvenes estadounidenses entienden la política, a sus iguales y al resto del mundo.
La IA está extendiendo esta lógica a parcelas de la vida en las que las redes sociales solo podían influir a distancia. Se ofrece a redactar nuestros pensamientos por nosotros y a sustituir a las personas a las que, de otro modo, recurriríamos. Un tercio de los adolescentes prefiere ahora hablar de temas serios con compañeros de IA en lugar de con otras personas. Investigadores del MIT descubrieron que los jóvenes que utilizaban ChatGPT para redactar ensayos mostraban una menor conectividad cerebral durante la tarea, y sus pruebas indicaban que la «deuda cognitiva» persistía incluso después de finalizarla. Aún nos queda mucho por aprender sobre los efectos a largo plazo. Pero ya tenemos motivos para preguntarnos si una tecnología que se comercializa con la promesa de hacernos más capaces no estará erosionando los hábitos y las relaciones que nos ayudan, precisamente, a desarrollar capacidades.
Si llevas esta forma de pensar hasta su desenlace lógico, obtienes un mundo de entretenimiento perfectamente aséptico, con chatbots listos para ahorrarnos la dificultad de pensar o de lidiar con los sentimientos de otra persona (o incluso con los nuestros). Pero cualquiera que se haya esforzado por escribir algo que merezca la pena leer, o por reparar una amistad dañada, sabe todo lo que se pierde en ese intercambio. Desarrollamos el criterio a través del esfuerzo y la fricción, y aprendemos a convivir con los demás al afrontar el hecho de que tienen necesidades y opiniones propias.
Deberíamos exigir seguridad como mínimo, sí, y a partir de ahí exigir mucho más. Las empresas tecnológicas y los distritos escolares deberían tener que demostrar más allá de toda duda razonable que la IA mejora el aprendizaje y el pensamiento crítico antes de convertirla en un elemento habitual en las aulas. Tendría que prohibirse a las compañías diseñar compañeros virtuales que finjan tener conciencia o profesen amor a los usuarios, y deberían someterse a un escrutinio independiente sobre cómo influyen sus sistemas en las relaciones y en la capacidad de las personas para pensar por sí mismas. Las empresas que han introducido sus productos en casi todos los ámbitos de la vida moderna han contraído obligaciones mucho mayores que la de limitarse a evitar el próximo titular demoledor.
Sam Hiner es cofundador y director ejecutivo de Young People’s Alliance, donde coordinó una coalición de activistas para aprobar leyes que regulan los compañeros de IA en ocho estados en 2026 —leyes como la SB1119 de California—. Sam se graduó en la Universidad de Carolina del Norte en Chapel Hill en 2025 y fue incluido en la lista «30 Under 30» de impacto social de Forbes de 2026.
Emma Leiken es directora ejecutiva del Responsible Technology Youth Power Fund en Hopelab, que ha recaudado más de 9 millones de dólares para iniciativas de rendición de cuentas tecnológica lideradas por jóvenes, y es profesora de políticas tecnológicas en la Escuela de Asuntos Internacionales y Públicos de Columbia. Con anterioridad, fue responsable global de políticas de seguridad y bienestar juvenil en TikTok y trabajó en tecnología responsable en Omidyar Network.