Había visto la pobreza estética del lanzamiento más reciente del juego de realidad virtual Horizon Worlds de Meta en el que se presentaba el avatar animado ojos sin vida de Mark Zuckerberg en un fondo visual que un tuit comparó, de forma bastante compasiva, con "las paredes pintadas de una guardería abandonada". Dejé escapar un suspiro ante la noticia de Ring Nation, el programa de televisión producido por Amazon, que presenta "contenido viral desenfadado" recogido por el imperio de vigilancia Ring. Apreté los dientes ante una captura de pantalla del programa para convertir texto a imagen de Stable Diffusion que ofrecía obras de arte producidas por IA con los estilos propios de docenas de artistas humanos no remunerados, y cuyo trabajo colectivo se había volcado en los datos de entrenamiento del modelo, procesándolo y publicándolo de nuevo.
nReconocí ese sentimiento y su nombre: resignación. La sensación de estar atrapado en un lugar en el que no quieres estar, pero no puedes abandonar. Me llamó la atención la ironía de que he estudiado tecnología durante toda mi vida para evitar este tipo de sentimiento. La tecnología solía hacerme sentir feliz antes.
nNaturalmente, volqué mi sentimiento en una tormenta de tuits:
n
Toqué una fibra sensible. A medida que mi bandeja de notificaciones comenzaba a llenarse con miles de respuestas y retuits, la inyección de dopamina por el efecto de la viralidad dio paso a una tristeza más profunda. Mucha gente sentía la misma sensación de pesadez en el estómago.
nAun así, se produjo una catarsis por la lectura de tantas otras personas que le dieron voz.
nHay algo que se está perdiendo en nuestras vidas y en nuestra tecnología. Y esa ausencia alimenta una creciente molestia expresada por muchos de los que trabajan con la tecnología o la estudian. Es lo que impulsa a la nueva generación de investigadores de doctorado y postdoctorado con los que trabajo en la Universidad de Edimburgo (Reino Unido), que están reuniendo conocimientos de las artes técnicas, las ciencias y las disciplinas humanísticas para tratar de descubrir qué ha salido mal en nuestro ecosistema tecnológico y cómo arreglarlo. Para hacer eso, tenemos que entender cómo y por qué han cambiado las prioridades en ese ecosistema.
nEl objetivo del desarrollo de la tecnología de consumo era bastante simple antes: diseñar y construir algo de valor para las personas, dándoles una razón para comprarlo. Una nueva nevera es brillante, reduce mis facturas de electricidad, hace cubitos de hielo geniales. Así que la compro. Listo. Roomba promete aspirar el pelo de gato de debajo de mi sofá mientras duermo la siesta. ¡Vendido! Sin embargo, esta visión de la tecnología está cada vez más desactualizada. No es suficiente que una nevera mantenga la comida fría; la versión actual ofrece cámaras y sensores que pueden monitorizar lo que como, mientras que Roomba puede enviar un mapa de mi casa a Amazon.
nEl problema va mucho más allá de los riesgos obvios para la privacidad. Es un cambio radical en todo el modelo de innovación y los incentivos que la impulsan. ¿Por qué conformarse con una única transacción para obtener los beneficios para la empresa cuando, en cambio, se puede diseñar un producto que extraiga flujos de datos monetizables de cada comprador para aportar ingresos a la empresa durante años? En cuanto se haya capturado ese flujo de datos, se protegerá, incluso en perjuicio de los clientes. Al fin y al cabo, si se compra una parte suficiente del mercado, se puede permitir soportar la ira y la frustración de los clientes. Bien lo sabe Mark Zuckerberg.
nNo solo la tecnología de consumo y las plataformas de redes sociales han cambiado así. Por ejemplo, la gran marca de tecnología agrícola John Deere, anteriormente muy querida por sus clientes, está luchando contra un movimiento de "derecho a reparar" impulsado por los agricultores enfadados porque se les prohíbe reparar sus propias máquinas. Todo para que no perturben el software patentado que envía al fabricante los datos de alto valor sobre los terrenos y los cultivos de los agricultores. Como señaló más de uno en mi hilo de Twitter, hoy en día en la tecnología nosotros somos el producto, no el principal beneficiario. Cada vez más a menudo, los dispositivos mecánicos que antes eran el producto, son tan solo los intermediarios.
nTambién existe un cambio sobre a quiénes van dirigidas las innovaciones tecnológicas actuales. Varios comentarios se opusieron a mi hilo llamando la atención sobre el vibrante mercado actual de las nuevas tecnologías para los "geeks" y "nerds": Raspberry Pis, herramientas de software de código abierto, robots programables, etc. Si bien muchos de estos productos son excelentes para quienes tienen el tiempo, las habilidades y el interés para ponerlos en práctica, son herramientas hechas para un público limitado. La ilusión de ver una innovación genuina en la tecnología biomédica, como las vacunas de ARNm, también se desvanece cuando vemos que los beneficios se concentran en los países más ricos, los que ya están mejor atendidos por la tecnología.
nPor supuesto, las nuevas tecnologías siguen siendo una fuente de alegría y emoción en muchos lugares a los que históricamente se les ha negado una parte equitativa de sus comodidades. No obstante, la innovación nos prometía mucho más que nuevos dispositivos y apps. La ingeniería y la invención eran profesiones orientadas principalmente a crear una infraestructura para mejorar la vida, y no para producir cosas desechables.
nnLa aparente pérdida de interés de los tecnólogos en la innovación humana está agotando nuestra fe colectiva en nuestros propios poderes de invención.
n
Las tecnologías vitales como las carreteras, redes eléctricas, alcantarillado y sistemas de tránsito eran una parte central de la ingeniería en EE UU. Hoy en día, los tratamos como una carga para los contribuyentes, y nuestras mejores mentes y recursos se canalizan hacia los dispositivos de consumo hambrientos de datos y apps. Si EE UU es un indicador de la trayectoria del desarrollo tecnológico global, entonces todos tenemos graves problemas por delante, porque claramente hemos perdido el rumbo.
nEs un hecho que el enfoque visible de la cultura tecnológica ya no está en expandir las fronteras de la innovación humana, la innovación que nos sirve a todos. Hasta los viajes espaciales han perdido su visión humanista; la frontera actual es el turismo espacial de lujo y los multimillonarios que venden a inversores crédulos esas fantasías de escapar a Marte. Con 8.000 millones de personas al borde del precipicio de la destrucción ambiental global, no podemos permitirnos un mundo donde la misión principal de las nuevas tecnologías parece ser "coge el dinero y corre".
nSi continuamos alejándonos de las aplicaciones humanas de la tecnología, corremos el riesgo de alimentar un ciclo descontrolado de retroalimentación que agotará nuestra voluntad colectiva de reinvertir en su expansión. El peligro no es solo que la tecnología actual no se dirija a nuestras necesidades más urgentes como civilización. Es que la aparente pérdida de interés de los tecnólogos en la innovación humana está agotando nuestra fe colectiva en nuestros propios poderes de invención.
nLa tecnología, si se mantiene fiel a sus raíces más profundas, todavía funciona mediante un impulso moral: el de construir lugares, herramientas y técnicas que puedan ayudar a los seres humanos no solo a sobrevivir, sino a prosperar juntos. Por supuesto que ese respaldo se une fácilmente a otros, que incluso pueden superar las iniciativas de dominar, exterminar, empobrecer, vigilar y controlar.
nSin embargo, esas motivaciones más oscuras no están en el centro de nuestra capacidad tecnológica como especie. No podemos permitir que definan el orden tecnológico moderno. Porque si la tecnología pierde su asociación con la alegría compartida y el confort, corremos el riesgo de alejarnos de una de las formas más fundamentales en las que nos preocupamos por el mundo y por los demás.
nShannon Vallor es profesora Baillie Gifford de Ética de Datos e Inteligencia Artificial en la Universidad de Edimburgo y directora del Centro para Futuros Tecnomorales en el Instituto de Futuros de Edimburgo.
n