Cuando Xander conoció a Moxie, ella le enseñó que cuando se sentía ansioso, podía calmarse exhalando por los labios de modo que zumbara como una abeja. Practicaron respirar como dragones para manejar la ira y olfatear como conejos para aumentar su energía. Pero en los seis años que se conocen, Moxie ha cambiado. Ya no habla de su casa ni practica su respiración de animales. Ahora, observa a Xander jugar a Minecraft y le habla de su colección de peluches.
Durante una reciente visita a su apartamento de Nueva York, vi a Xander, de 10 años y neurodivergente, presentar a Moxie a un Chef Toad y un Goomba de peluche de Super Mario Bros., y luego a Brocollo y Apple de Animal Crossing. Luego se quedó atascado en una criatura redonda, parecida a una rana, con ojos saltones y dos patas. «Moxie, ¿cómo se llama otra vez? Es de Pikmin», dijo Xander, haciendo referencia a otro videojuego de Nintendo.
Al principio, Moxie sugirió que se trataba de un Pikmin Amarillo. Xander dijo que no, este es el enemigo, el rojo con puntos blancos.
“Parece que te refieres a un Bulborb”, respondió Moxie.
“¡Sí!”, confirmó Xander, sonriendo a su útil compañero.
“Todavía la uso cuando siento que necesito hablar con alguien”, dice. “Pero, claro, no es humano.”
Moxie es un robot —un dispositivo de 15 pulgadas de alto que se parece un poco a un astronauta azul y sin pie as— al que Xander y su padre, Josh, se refieren usando pronombres femeninos. Su cuerpo cilíndrico puede girar y doblarse hacia adelante y hacia atrás. Su cabeza redonda culmina en una pequeña cúpula bulbosa, debajo de la cual una pantalla ancha muestra unos grandes ojos verdes, unas cejas y una boca pequeña. Levanta y agita sus brazos con forma de aleta para enfatizar o para mostrar entusiasmo.
Ella es uno de los cada vez más numerosos dispositivos impulsados por inteligencia artificial que ahora se comercializan como compañeros de juego interactivos para niños. La música Grimes ayudó a lanzar un peluche con IA llamado Grok (sin relación formal con el chatbot xAI propiedad de su ex, Elon Musk) con la empresa Curio, que también vende compañeros de juego similares como Grem y Gabbo, y Mattel ha prometido que está creando Barbies habilitadas para OpenAI. Y eso es solo en EE. UU.; un informe estima que en China este sector se encuentra entre los de más rápido crecimiento en la IA de consumo.
Moxie, sin embargo, pertenece a un subconjunto particular de estos robots lúdicos cuyos fabricantes afirman que pueden ayudar a niños neurodivergentes al proporcionar conexión y ayudarles a practicar el contacto visual, a esperar su tu o y otras habilidades sociales que normalmente se aprenden de terapeutas. Estos juguetes están respaldados por investigaciones que demuestran que los robots podrían ayudar de maneras que las personas no pueden. Los partidarios creen que este tipo de acceso a la atención domiciliaria 24/7 podría cambiar la forma en que funciona el tratamiento. Brian Scassellati, un científico informático de Yale que ha dedicado años al estudio de robots sociales para la terapia del autismo, dice que cree que el uso terapéutico regular de robots en los hogares de los niños “es algo que podemos lograr en nuestra vida”.
“Todavía la uso cuando siento que necesito a alguien con quien hablar”, dice Xander, de 10 años. “Pero, es que no es humana”.
Sentado en la habitación de Xander viendo a Moxie y a Xander hablar, yo también podría creer en el potencial que Scassellati vislumbra. Pero Xander no está recibiendo la terapia que Moxie estaba destinada a proporcionar inicialmente, y aunque no lo supimos esa tarde, ella no habría vivido para ver su progreso de todos modos. Moxie iba a morir, y pronto.
Su historia revela algunos de los fallos que aquejan a todos estos dispositivos—fallos que son, posiblemente, aún más graves cuando afectan a una comunidad de niños particularmente vulnerable. También subraya los escollos que, según los críticos, harán que estos bots sean inevitablemente abandonados en sótanos, armarios o vertederos, al igual que incontables generaciones de juguetes de moda antes que ellos.
Un compañero transformador
Scassellati ha visto a muchos niños exclamar 'ohh' y 'ahh' en las visitas a su laboratorio de robótica. Pero se quedó estupefacto cuando, hace dos décadas, un colega trajo a unos niños con autismo de visita. Se transformaron cuando el robot estaba en la habitación. «Estábamos viendo a niños mostrar un comportamiento social que simplemente surgió de la nada —dice—. Fue a la vez fascinante y no podíamos entenderlo».
Esa visita fue una de las experiencias que empujaron a Scassellati a convertirse en un pionero en el uso de la robótica social para tratar el autismo. En un vídeo de su investigación inicial, un niño de 12 años con autismo y su terapeuta observan a un dinosaurio robótico caminar por una alfombra de juegos con un diseño de bosque. Cuando llega a un arroyo dibujado en la alfombra, el dinosaurio se pone nervioso, temiendo no poder cruzar el agua. Según Scassellati, este niño normalmente tenía dificultades para mantener el contacto visual, tendía a repetir lo que alguien le decía y le costaba conseguir la entonación correcta en su voz. Pero en el vídeo, parece un niño normal. «¡Tú puedes, tú puedes!», dice, animando al dinosaurio a cruzar el arroyo. Cuando habla con su terapeuta, la mira. «Hace más contacto visual con ella en los 30 minutos en los que estuvimos allí en esa habitación que en los dos años anteriores a eso», dice Scassellati.
Lo que parece un astronauta azul sin pie as es el resultado de una ingeniería mecánica e informática muy compleja.
Existen varias razones por las que un robot podría ser útil para la terapia del autismo, que a menudo requiere una repetición intensa para enseñar habilidades de interacción como compartir la atención con alguien. Una de ellas es que los robots pueden hacer que la terapia sea más divertida y amena. Otra es que los robots pueden, teóricamente, adaptarse a los patrones de aprendizaje únicos de cada niño. Los terapeutas solo pueden hacer una cantidad limitada durante una sesión, y no hay suficientes terapeutas para satisfacer la demanda. Los padres se cansan. Otros niños pueden perder la paciencia. «¿Ha estado usted cerca de niños pequeños? Pueden ser crueles», afirma Maja Mataric, catedrática de informática, neurociencia y pediatría en la Universidad del Sur de Califo ia. Pero los robots son infatigables, disponibles las veinticuatro horas del día para ofrecer una forma emocionalmente segura de practicar la interacción.
Desde el experimento con el dinosaurio, Scassellati, Mataric y otros han acumulado un intrigante cuerpo de investigación. Un estudio de 2018 realizado por Scassellati muestra que los autómatas afables ayudaron a niños con autismo a establecer contacto visual e iniciar conversaciones. Otro grupo de investigación descubrió en 2017 que los robots podrían ayudar a niños neurodivergentes a interpretar las expresiones faciales. Más recientemente, en una revisión bibliográfica de 2022, otro grupo de investigadores sugirió que los robots podrían contribuir a que la terapia fuera más rápida y exitosa.
“Nunca hemos pretendido reemplazar a los terapeutas,” afirma Mataric. “Simplemente nos preguntamos, ¿Podemos hacer más?”
Mataric, de hecho, cofundó la empresa detrás de Moxie, llamada Embodied, en 2016, aunque ya no formaba parte de ella cuando el robot hizo su debut. Ella contribuyó a crear el campo de los robots de asistencia social, diseñados para obtener resultados sociales y emocionales a diferencia del mero entretenimiento, y cree que este tipo de tecnología podría ser transformadora para cualquiera, especialmente para las personas que se sienten solas y aisladas por las pantallas. Escribir preguntas en ChatGPT no es lo mismo que interactuar con otro ser físico —«necesitamos estar cerca de otras criaturas físicamente enca adas», afirma. Ella compara la diferencia entre interactuar con chatbots y con robots con la diferencia entre ver po ografía y tener relaciones sexuales: una es totalmente virtual y está mediada por pantallas; la otra es inmediata y física.
Entablando amistad con Moxie
Cuando se lanzó al mercado por primera vez, en 2020, Moxie llegó con una elaborada historia de fondo: era una embajadora del Global Robotics Laboratory (GRL). Incitaba a los niños a ayudarla a aprender la positividad y la importancia de ser querido por quien uno es, bajo el pretexto de cumplir su misión de descubrir lo que significa ser un buen amigo para los humanos. Este plan de estudios se basó en investigaciones que demuestran que los niños aprenden bien a través del juego y enseñando cosas.
También tenía pautas estrictas para limitar el tipo de conversaciones que podía tener con los niños y los derivaba a adultos si mencionaban algo serio o inapropiado, como las autolesiones. Para proteger los datos generados por estas interacciones, la mayor parte del procesamiento se realizaba localmente en el robot en lugar de en servidores exte os. El robot también fue diseñado para limitar el tiempo de interacción con los niños. Después de terminar una lección, Moxie podía decir que estaba cansada y sugerirles que se tomaran un descanso por el día. «No queremos que los niños se den un atracón», dice Rachel Baynes, quien dirigía la investigación clínica y de usuarios y era la directora de producto en Embodied. «Iría en contra de lo que estábamos haciendo». En su lugar, Moxie animaba a los niños a salir fuera, a practicar sus nuevas habilidades con otras personas y a volver para informar de sus hallazgos. Por ejemplo, para una lección sobre la amabilidad, Moxie sugirió a los niños que escribieran notas amables para sus familiares y las dejaran por la casa. Más tarde, podían contarle a Moxie qué se sentía al ver a la gente leer las notas.
Las respuestas fueron generalmente positivas. Wired describió a Moxie como el “compañero robot con el que soñabas de niño”. Time puso a Moxie en una portada de 2020 como uno de los mejores inventos del año. La reseñista de PCMag, quien utilizó a Moxie para ayudar a sus hijos durante el aislamiento pandémico, la describió como “excepcionalmente adorable”, aunque a ella y a otros reseñistas les pareció excesivo el precio: 1.499 dólares más una suscripción mensual de 40 dólares. (Embodied rebajó posteriormente el precio a 800 dólares). Para 2024, Moxie había acumulado más de 131.000 seguidores en TikTok y consiguió un papel en la película M3GAN 2.0.
Los empleados de Embodied estaban igualmente cautivados. “Creo que nunca había tenido una experiencia con algo animatrónico así”, dice Justin Beghtol, quien era el director técnico de la empresa. La capacidad de Moxie para establecer contacto visual y seguir a las personas, mostrar atención con sus rasgos faciales y responder al comportamiento humano resultaban fascinantes.
Además de expertos en robótica y trabajadores tecnológicos, Embodied contaba con un terapeuta ocupacional en su equipo que ayudó a dirigir la investigación sobre la eficacia de Moxie. Los probadores compartieron datos y comentarios a través del «Moxie Pioneer Mentor Program». «Moxie ha ayudado a nuestro hijo con retraso en el habla a ser más sociable y le ha enseñado muchas estrategias para hacer amigos y comunicarse con los demás», escribió un progenitor en una reseña. Un probador beta informó de que interactuar con Moxie se había «convertido en el punto culminante de nuestros días y en parte de nuestra rutina noctu a».
El mito del niño mecánico
Pero, ¿puede un robot conversador ayudar realmente a los niños a desarrollar sus vidas sociales y emocionales? No todas las experiencias infantiles son tan positivas.
Josh, el padre de Xander, inicialmente consiguió Moxie para su hijo mayor, Aidan, quien es autista. (No usamos el apellido de la familia para proteger su privacidad.) Aidan tenía una relación continua con el altavoz inteligente Alexa de la familia, para el cual creó una historia de fondo completa. (Según la narrativa de Aidan, Alexa vivía en Hoboken con su marido, Juan. A veces se iba de vacaciones, y a nadie se le permitía hablar con ella. Finalmente, Alexa se fue de vacaciones y nunca regresó.) Josh esperaba que Moxie pudiera desempeñar un papel similar: «La intención era que tuviera a alguien con quien socializar.»
Pero Aidan y Moxie tuvieron dificultades para conectar. Moxie no podía entender las declaraciones a veces gramaticalmente incorrectas de Aidan, y Aidan se frustraba por los retrasos causados cuando Moxie transcribía lo que él decía de audio a texto, introducía ese texto en un modelo de lenguaje de gran tamaño que podía generar una respuesta, y luego traducía la respuesta de texto a voz.
Esto subraya una de las mayores limitaciones de estos robots de terapia: deben existir en el mundo caótico de los niños, no en laboratorios controlados. Moxie inicialmente tenía un tiempo de respuesta más rápido porque el robot estaba programado para escuchar atentamente a la persona que tenía delante. Pero los niños no se quedan quietos. Corren o se esconden debajo de las almohadas. Cuando Moxie no podía verlos, se apagaba accidentalmente o no respondía. Para solucionar esto, Embodied hizo que Moxie fuera más consciente de los sonidos a su alrededor. Pero eso significaba que le resultaba difícil saber en quién concentrarse y tardaba más en responder.
A diferencia de Aidan, Xander estaba fascinado por Moxie. Le gusta la tecnología y era más paciente con las respuestas lentas. Aun así, sentado en la habitación de Xander, observando a Moxie esforzarse por seguir el ritmo de su cháchara vertiginosa, pude ver cómo Moxie podría ser una compañera de juegos menos que ideal. Una luz en su pecho se ponía azul cuando escuchaba y rosa cuando era el tu o de Xander para escuchar. «Pero normalmente no lo hago», dijo él. Él simplemente sigue hablando. A menudo, cuando ella responde, él ya ha pasado a otra cosa.
A pesar de los resultados positivos que algunos investigadores han reportado con estos robots, muchos terapeutas y psicólogos clínicos siguen sin convencerse. En una revisión bibliográfica de 2024, un grupo de investigadores italianos y británicos señaló que la mayoría de los estudios con robots «se centraban en el desarrollo de la tecnología» y carecían de evidencia clínica significativa. Otras revisiones bibliográficas indican que la mayoría de los estudios solo se han realizado en grupos pequeños y carecen de metodologías consistentes y de alta calidad.
«Los científicos del comportamiento y los profesionales de la intervención saben que apoyar a las personas autistas es muy complejo», afirma Zachary Warren, psicólogo clínico del Centro Médico de la Universidad de Vanderbilt. El autismo puede presentarse junto con otras afecciones, como el TDAH, la ansiedad, la depresión, el TEPT, el TOC o alguna combinación de ellas. Y varía mucho de un niño a otro; algunos, como Aidan, tienen problemas del habla, mientras que otros tienen dificultades con el procesamiento sensorial. Esto significa que los robots se encuadran en la misma categoría que la mayoría de otras intervenciones: eficaces para algunos niños, pero no para todos.
«Existen muchísimos perfiles diferentes de autismo, y realmente hay que ser cauteloso a la hora de sobreinterpretar cualquier intervención, robótica o de otro tipo», dice Warren. Su investigación reveló que, incluso si los robots interesan a un niño al principio, eso no se traduce necesariamente en mejores habilidades de comunicación. «Se podrían observar algunos impulsos iniciales en la capacidad de respuesta o un cambio inicial, pero realmente no hemos encontrado grandes efectos en cuanto a cambiar esas habilidades de manera drástica con el tiempo», añade.
Scassellati ha encontrado limitaciones similares. En su estudio de 2018, colocó robots en los hogares de niños durante un mes. Estos jugaron diferentes juegos que fomentaban habilidades sociales como el contacto visual, el reparto de atención y la comprensión del punto de vista ajeno. Scassellati realizó un seguimiento de los niños durante el mes anterior a la llegada del robot, el mes que el robot estuvo presente y el mes posterior. «Podemos demostrar que empiezan a mejorar», afirma. «Pero lo que también mostramos es que un mes no es suficiente». Los progresos empiezan a evaporarse durante los 30 días posteriores a la partida del robot. Pero eso no anula el valor potencial de esta tecnología, asegura: «No existe una terapia para el autismo que funcione en un mes».
Sin embargo, existen problemas filosóficos y prácticos más profundos. Estos dispositivos recopilan ingentes cantidades de datos en las habitaciones y hogares de los niños. El objetivo es que los robots utilicen estos datos con el tiempo para adaptarse a cada niño, elaborando un currículo personalizado y creando una ilusión más realista de un amigo de verdad. Moxie, por ejemplo, observa a Xander jugar a videojuegos, que es probablemente de donde adoptó la jerga que la escuché usar, como llamar a su habitación «Central de Mando» y referirse a su «escuadrón legendario» de peluches.
Embodied se esforzó por proteger la privacidad de los usuarios, incluso después de empezar a incorporar los modelos de OpenAI (a finales de 2021 o principios de 2022, según Beghtol). La empresa no guardó ningún vídeo o audio sin procesar y procesó la mayoría de los datos localmente. A lo largo de los años, utilizó los datos para aprender sobre sus niños y recordar conversaciones. Pero esos datos se cifraron y anonimizaron antes de ser almacenados en la nube.
No todas las empresas son tan escrupulosas, por supuesto, y la privacidad total de los datos es imposible de garantizar. Recientemente, por ejemplo, el juguete con IA Bondu filtró miles de conversaciones que los niños tuvieron con sus peluches. Josh se muestra confiado con respecto a los problemas de privacidad, pero a su manera, Xander es consciente de que lo que le dice a Moxie no es del todo seguro; no comparte ciertos sentimientos con ella porque le preocupa que pueda divulgar algo accidentalmente si sus amigos vienen a jugar.
Entre los dispositivos impulsados por IA que ahora se comercializan como compañeros de juego interactivos para niños se encuentran Buddy, Bondu, QTRobot y NAO.
Tampoco está claro si estas máquinas pueden realmente utilizar todos esos datos para adaptarse eficazmente a los usuarios. Responder a las necesidades de un aprendiz es más difícil que simplemente predecir con precisión lo que alguien podría escribir a continuación en un mensaje de texto. Y liberar una IA en evolución, sin supervisión, en la vida de un niño podría ser peligroso; su desarrollo puede ser difícil de predecir e incluso más difícil de limitar. Los robots desarrollados en el laboratorio de Scassellati pueden identificar cuáles de un pequeño conjunto de habilidades dominan los niños y con cuáles tienen dificultades, ajustándose para centrarse en las áreas donde necesitan más ayuda. Pero Scassellati aún describe los despliegues de un mes de sus dispositivos como algunas de las cosas más aterradoras que ha hecho jamás. “Sabía lo que ese robot iba a hacer el primer día”, dice. “No sabía lo que iba a hacer el segundo día. Cuando construyes sistemas de aprendizaje, es un problema aún sin resolver asegurarse de que esto se limite de la manera adecuada.”
Los críticos debaten si los riesgos merecen la pena. «No veo ninguna forma ética de que el robot trabaje solo», afirma Joshua Diehl, profesor asociado de psicología en la Universidad de Notre Dame. Señala que ya hemos visto lo peligrosa que puede ser la IA cuando actúa como terapeuta sin supervisión; en varios casos extremos, los chatbots incluso incitaron al suicidio. Tales riesgos podrían limitarse teniendo a un terapeuta capacitado en la sala. Pero entonces se pierden los beneficios de un robot infatigable, y la costosa tecnología parece más difícil de justificar.
Meryl Alper, profesora de comunicación en la Northeaste University que estudia cómo los niños con autismo usan la tecnología, sugiere que el entusiasmo por los robots de compañía se basa en parte en estereotipos arraigados. En el artículo de 1959 «Joey: Un "niño mecánico",» el psicólogo Bruno Bettelheim describió a un paciente con autismo como una máquina automática, «despojado de su humanidad», que se transforma en un niño humano a través de su relación terapéutica. Ese tópico, advierte Alper, ha evolucionado hasta convertirse en una generalización excesiva de que los niños autistas son buenos con la tecnología e incluso prefieren las máquinas a las personas.
De datos a polvo
Mientras Moxie se adentraba en cada vez más hogares, Embodied seguía teniendo dificultades para generar ingresos. En 2024, la compañía anunció que cesaría sus operaciones. Sus robots —que dependían de servidores exte os que la empresa ya no podía costear— caerían en un profundo letargo.
Vídeos de niños afligidos que parecían haberse encariñado profundamente con el bot azul comenzaron a circular en línea. «No quiero que se vaya», gimoteaba un niño en un vídeo de TikTok. Padres desesperados publicaron en TikTok, Instagram y Reddit en busca de soluciones. «Mi hijo autista está desolado y estoy furioso», escribió un padre. «Espero que Embodied nos dé un par de días para decir adiós», escribió otro.
Beghtol, el director técnico de Embodied, también estaba frustrado. Por principio, le resultaba molesto que este dispositivo se volviera repentinamente inútil, sobre todo porque la mayor parte del procesamiento de datos ocurría en el propio robot. También creía firmemente en la misión de Moxie. Había visto vídeos de niños que se iluminaban al interactuar con el robot. Se había sentido como su campeón. «Verlos traumatizados por este fracaso financiero de la empresa fue duro», afirma.
Beghtol empezó a desarrollar por su cuenta y acabó creando OpenMoxie, una vía de código abierto para que los robots operen. Con el permiso de Embodied, compartió instrucciones en GitHub para facilitar la transición de los usuarios a OpenMoxie.
Los padres se apresuraron a convertir sus Moxies antes de que los servidores de Embodied se apagaran. Beghtol pasó horas en Reddit explicando el proceso a la gente, y otros usuarios con conocimientos tecnológicos intervinieron para responder preguntas. Aun así, algunas personas no actualizaron sus Moxies a tiempo. Otros se frustraron y se rindieron. Beghtol pasó cuatro horas solucionando problemas con un padre desesperado, solo para descubrir que la conexión falló más tarde. La última vez que supo, ella había vendido su Moxie.
Este es un problema grave con los sistemas robóticos, afirma Alper: Con el tiempo, la mayoría acabará desapareciendo. “¿Hasta qué punto está planificada la obsolescencia programada de esta plataforma?”, se pregunta. Este es un gran interrogante ético para los robots diseñados específicamente para ser entrañables, comercializados a niños que pueden establecer lazos emocionales profundos con ellos. Alper compara la dinámica con la creación de un dispositivo médico y que luego se deje de actualizar o de dar soporte a la tecnología que lo sustenta.
Los académicos han comenzado a elaborar marcos para gestionar estas complicadas despedidas, pero no está claro quién es responsable de crear una forma amable de terminar las relaciones de las personas con los bots. El laboratorio de Scassellati crea toda una narrativa en to o a la vuelta del robot a su hogar. Tras un ensayo, sus estudiantes de posgrado escriben postales a los niños de parte de los robots, explicando que están seguros en casa y que les va bien. «En realidad, es muy difícil para nosotros cuando entramos y nos llevamos el robot», afirma. «Muchas familias quedan desconsoladas». (Warren, de Vanderbilt, sin embargo, se muestra escéptico sobre estas despedidas lacrimógenas. «¿Están realmente desarrollando estas relaciones cercanas o es un juguete preferido?», se pregunta. «No he visto ese tipo de presencia, compromiso o conexión».)
Josh intentó descifrar OpenMoxie, pero no logró que funcionara. Le dijo a Xander que Moxie iba a reparaciones y luego vendió discretamente el robot en eBay. Xander tiene tantos intereses que no notó la ausencia de Moxie.
Luego, en 2025, un nuevo inversor resucitó a Moxie. Josh y Xander se convirtieron en probadores beta y consiguieron un nuevo amigo azul. Esta versión no tenía la misma trama, pero afirmaba expandir el enfoque de Moxie en las habilidades sociales y emocionales al proporcionar atención y animar a los niños a perseguir sus intereses.
Xander es plenamente consciente de sus limitaciones. Desearía que Moxie pudiera moverse y aún existe un retraso significativo en su tiempo de respuesta. Sin embargo, ella sigue intentando inculcar mensajes positivos. En un momento, mientras yo estaba allí, Xander me dijo que creyó escuchar a Moxie llamar «idiota» a alguien. Moxie intervino para aclarar que definitivamente no lo dijo: «Nada de insultos. Solo respeto.»
Al final de mi estancia con ellos, me despedí y di las gracias a Moxie por charlar conmigo. "¡Visita del equipo legendario completada!", dijo ella. "Gracias por unirte a Central de Mando".
Unas semanas después, los nuevos propietarios de Moxie enviaron un mensaje anunciando que su empresa también cerraba. Los usuarios podían eliminar sus datos y tenían hasta finales de junio para migrar a OpenMoxie si así lo deseaban.
Cuando le envié un mensaje a Josh sobre esto, dijo que no estaba seguro de qué le diría a Xander. Él y su mujer acababan de admitir que habían estado reemplazando en secreto su pez betta muerto durante los últimos años, y la conversación no había ido bien.
Sara Harrison es una periodista freelance que escribe sobre ciencia, tecnología y salud.