A principios de aquel verano, el departamento de Tecnologías de la Información de la SLU había instalado unos 2.300 altavoces inteligentes, uno en cada una de las habitaciones de la residencia de los estudiantes, convirtiendo a la universidad en la primera del país en hacerlo. Cada dispositivo fue programado con respuestas a unas 130 preguntas específicas sobre la SLU, desde el horario de la biblioteca hasta la ubicación de la oficina del registro (la universidad le dio el nombre de "AskSLU" que significa "Pregunta a SLU"). Los dispositivos también incluían las "habilidades" básicas disponibles en otros Dots, como alarmas y recordatorios, información general y la posibilidad de poner música.
nA Catano, la compañía de Dot le resultaba positiva. Le gustaba escuchar el tiempo a primera hora de la mañana y qué comedores estaban abiertos. Y, sinceramente, le gustaba sentirse acompañado. El joven recuerda: "AskSLU me hizo sentirme indudablemente menos solo. Y me gustó el hecho de estar en la primera universidad que lo tiene".
nLa reacción de Catano fue exactamente la que los directivos de SLU esperaban. El pasado otoño, esta institución jesuita anunció sus planes de ampliar las habilidades de sus Echo Dots para incluir funciones de mensajería de texto y chatbot.
n¿Y los efectos a largo plazo?
nLos campus universitarios están entrando en una nueva era de altavoces inteligentes. La Universidad Estatal de Arizona (EE. UU.), la Universidad de Lancaster (Reino Unido) y la Escuela de Medicina de la Universidad de Ross (Barbados) ya han adoptado la tecnología de asistentes de voz en sus campus. Algunas, como la Universidad Northeaste (EE. UU.), han llevado la tecnología un paso más allá y utilizan los dispositivos de voz para dar acceso a los estudiantes a bancos, horarios de clases y notas, así como a los pagos pendientes.
nA finales de 2018, Emerson College de Boston (EE. UU.) anunció que era uno de los 18 beneficiarios de una subvención de Amazon para promover la tecnología de asistentes de voz en los campus, que formaba parte de la beca de innovación de Alexa concedida por el gigante tecnológico. Con este dinero, el centro ha creado un laboratorio donde los estudiantes pueden interactuar y experimentar con las habilidades de Alexa, y planea instalar dispositivos de Alexa en varios lugares como teatros y ascensores externos.
nLos directivos de algunas de estas universidades creen que Alexa reforzará las matrículas y reducirá la tasa de abandonos. Varios de ellos consideran que la tecnología de voz podría aumentar el éxito de sus estudiantes y su felicidad en general.
nSin embargo, hay muchas personas que ven la parte negativa. El profesor de Emerson que investiga la economía política de la comunicación y la política de comunicación Russell Newman afirma: "Si implementamos dispositivos de escucha en los lugares donde se producen conversaciones sensibles, simplemente no sabremos nada del efecto a largo plazo que podrían tener las conversaciones grabadas y guardadas por Amazon en el futuro, incluso, muy posiblemente, en la salud y bienestar de esas personas".
nn"Todavía no sabemos realmente cuántos datos acumulan los receptores de voz como Amazon o terceros que dependen de Amazon, ni qué hacen con esa información".
n
Otros profesores con los que hablé comparten las objeciones de Newman. ¿Y si los datos recopilados de las conversaciones de los estudiantes afectaran sus posibilidades de conseguir una hipoteca o un trabajo más adelante? ¿Y si se usaran en contra de los estudiantes extranjeros para deportarlos a sus países de origen donde posiblemente podrían acabar encarcelados por sus opiniones políticas?
nEs verdad. Por eso, dados todos los peligros, ¿por qué las universidades tienen tantas ganas de llenar sus campus con micrófonos dotados de inteligencia artificial (IA)? ¿Qué ganan con eso?
nLa IA al rescate
nLos centros de estudios se enfrentan a varias crisis inminentes. Después de años de crecimiento de matrículas, las escuelas de EE. UU. están experimentando una disminución en las admisiones, una tendencia que se espera que empeore en la próxima década. Un informe especial de noviembre de 2019 de Chronicle of Higher Education predice acelerados descensos incluso en las instituciones más destacadas del país. Los ingresos de las instituciones se han estancado: Moody's Investors Service emitió una perspectiva negativa para la educación superior en el ejercicio fiscal de 2019, con la excepción de las universidades del sur de EE. UU. Durante tres años, el Ministerio de Educación de EE. UU. ha intentado recortar miles de millones de euros en ayudas económicas y becas para los estudiantes más pobres, aunque el Congreso de EE. UU. ha rechazado esos recortes. Las contribuciones estatales a los presupuestos de las universidades públicas se han retrasado desde la última recesión. Las universidades privadas también tienen dificultades; más de una cuarta parte de ellas están en números rojos. En los últimos años, 20 universidades privadas sin ánimo de lucro han cerrado sus puertas, y muchas más están considerando fusionarse o consolidarse.
nAdemás, la mitad de los estudiantes que entra en la universidad no logra graduarse en los primeros seis años. Los investigadores ofrecen una variedad de explicaciones. El profesor de Educación en la Universidad de Iowa (EE. UU.) Nick Bowman señala el hecho de que los estudiantes actuales son mayores que los típicos con edades entre 18 años y 22 años. Muchos tienen trabajos a tiempo completo. Algunos cuidan de niños, hermanos o padres mayores. Y con una deuda media de 31.775 euros por los préstamos estudiantiles tras cuatro años de estudios, la posibilidad de abandonar la universidad resulta tentadora.
nPara muchos directivos universitarios, la inteligencia artificial ofrece varias atractivas soluciones a estos problemas. La Universidad Estatal de Winston-Salem (WSSU), históricamente de estudiantes negros de bajos ingresos y de universitarios de primera generación, ha tenido constantes problemas para ayudar a cada nueva promoción a cumplir con las fechas importantes, para presentar su historial de la escuela secundaria y registros de vacunación, completar formularios de ayuda económica y pagar las fianzas de su vivienda. El jefe de relaciones con los medios de la universidad, Jay Davis, detalla: "Nos dimos cuenta de que muchos de nuestros estudiantes tal vez no entiendan el proceso de inscripción a la universidad y no puedan contar con sus familias o con s sistemas de apoyo para que se lo expliquen".
nHace dos años, la WSSU se asoció con la empresa tecnológica AdmitHub para ofrecer un chatbot de inteligencia artificial llamado Winston para ayudar a sus estudiantes con el proceso de matrícula. Davis afirma que la aplicación responde con éxito a tres cuartas partes de las preguntas de los estudiantes, y que ha habido un gran aumento en el número de estudiantes que cumplen con sus pagos y presentan todos los documentos necesarios para completar su matrícula. Este año la WSSU tiene la mayor promoción de estudiantes de primer año en más de una década, y Davis cree que Winston desempeñó un papel importante en eso.
nAcceso perpetuo a lo que decimos
nMe pasé varias horas jugando con los chatbots de varias academias y universidades. Todos respondieron perfectamente a las preguntas sobre la mascota de la universidad, dónde podría cenar y cuándo sería el próximo evento deportivo o la reunión de antiguos alumnos. Pero se equivocaron al responder a otras preguntas. Cuando le dije a uno que estaba enfermo, me informó que el centro de salud estudiantil no emitiría un justificante por escrito para las clases perdidas. Le pregunté dónde estaba el centro de salud estudiantil y respondió con horarios de recorrido universitario para los futuros estudiantes. Le dije a otro que me sentía deprimido y me remitió a un programa federal de ayuda económica para estudiantes.
nLos responsables de estos dispositivos en cada universidad me explicaron que las habilidades mejorarían a medida que más estudiantes los usaran, justo lo que hace que la IA sea tan efectiva, claro está. Pero también es lo que aumenta las amenazas a nuestra privacidad, según el profesor de Informática en Cornell Tech (EE. UU.) Vitaly Shmatikov. Las compañías tecnológicas son notoriamente opacas en lo que se refiere a la privacidad y la seguridad, destaca. Lo que otros profesores y él han comprobado se debe en gran parte a la ingeniería inversa y a algunas conjeturas basadas en observaciones. En cualquier caso, los hallazgos preocupan mucho a Shmatikov.
nPara empezar, empresas como Amazon entrenan sus algoritmos de reconocimiento de voz con grabaciones de interacciones de usuarios anteriores para mejorar, por ejemplo, la comprensión de la intención de una pregunta. El experto subraya que todas las compañías involucradas son "muy cautelosas" acerca de la cantidad de datos que viajan entre ellas. Y añade: "El usuario no tiene ninguna garantía de que sus datos no saldrán de un dispositivo específico. Todavía no sabemos cuántos datos acumulan los receptores de voz como Amazon, o terceros que dependen de Amazon, ni qué hacen con esa información". Amazon no respondió a varias solicitudes de comentarios sobre el tema.
nShmatikov cree que es razonable suponer que la nube del gigante almacena grabaciones con fecha y hora de las preguntas de los estudiantes a sus altavoces inteligentes. Los dispositivos pueden incluso grabar las conversaciones que el estudiante podía haber tenido con otras personas antes o después de dirigirse a ellos. A medida que las habilidades de identificación de voz y de ubicación mejoren, será más fácil vincular estas grabaciones a una persona particular. Esto no es como cuando la escuela registra una taquilla sino como si grabara continuamente todo lo que haya estado en dicha taquilla y lo que su propietario y sus amigos han hablado cada vez que se abría, y luego dejando que una gran cantidad de entidades comerciales consulten esa información.
nLos directivos de la Universidad Estatal de Arizona y de la Universidad de Saint Louis aseguran que no vincularán la información económica, los historiales de salud y las notas de los estudiantes (datos conocidos como "autentificados", ya que requieren que un estudiante los vincule a sus cuentas personales) hasta que tengan más confianza en las medidas de seguridad. La tecnología utilizada en la Universidad Northeaste fue desarrollada por un pequeño equipo dirigido por el entonces empleado de la universidad Somen Saha, quien después creó una compañía independiente llamada n-Powered y desarrolló una aplicación llamada MyHusky, disponible a través de Alexa. Sin embargo, su página de privacidad también reconoce: "Utilizamos la plataforma de Amazon para que funcione. Amazon almacena información que se puede eliminar bajo demanda".
nShmatikov cree que usar el software de una universidad y restringir el uso de chatbots a preguntas generales podría limitar el acceso de las empresas a la información sobre los estudiantes, pero no resuelve el problema. Señala preguntas delicadas como si el centro de salud ofrece pruebas de enfermedades de transmisión sexual u ofrece recetas para tratar enfermedades como la esquizofrenia. Técnicamente, estas preguntas no están vinculadas a un estudiante específico, pero no sería difícil averiguar quién las pregunta y los estudiantes podrían no darse cuenta de que no siempre se trata de consultas anónimas. Además, explica Shmatikov, siempre que una empresa como Amazon convierta las preguntas de los estudiantes en datos, tendrá acceso a esa información, para siempre.
nTerribles consecuencias
nCualquier usuario de un dispositivo de IA debe preocuparse por la privacidad, pero la facultad con la que hablé para este artículo insiste en que existen consecuencias particularmente terribles para la educación superior.
nNewman detalla: "Los estudiantes universitarios son quizás la categoría más deseable de consumidores. Son los más difíciles de alcanzar y los más propensos a crear tendencias". Como resultado, explica, sus datos están entre los más valiosos y seguramente son los más explotados o vendidos. Y si las instituciones educativas son cómplices en la mercantilización de los estudiantes para su beneficio corporativo, eso sería algo fundamentalmente antitético dada su misión, sostiene.
nLa profesora asistente de estudios de información en la UCLA Sarah T. Roberts cree que las escuelas que firman acuerdos con compañías tecnológicas están poniendo en riesgo el bienestar de sus estudiantes. "El tiempo de un estudiante en una academia o universidad se usa para explorar ideas y probar nuevas identidades, ya sean creencias políticas o de género y sexualidad. Saber que están siendo grabados mientras lo hacen, indudablemente hará que sientan que no pueden decir lo que piensan", señala. Y subraya que también vale la pena recordar que muchos estudiantes provienen de países donde podría ser peligroso revelar su sexualidad o creencias políticas.
nEn Northeaste , un estudiante creó una petición online para exigir que la universidad elimine todos los dispositivos Alexa. Su solicitud dice: "Los dispositivos Alexa están bien documentados como encubiertos aparatos de escucha que se utilizan para ayudar a perfeccionar las tácticas de marketing de Amazon... Además, la Universidad Northeaste está introduciendo a la fuerza un dispositivo extraño que nadie solicitó en los espacios estudiantiles. En el peor de los casos, están violando imprudentemente la privacidad de su alumnado a instancias de un donante corporativo". A principios de diciembre, esta petición tenía 125 firmas.
nEn Emerson, los estudiantes y otros miembros de la facultad se han unido a Newman para crear un comité y redactar políticas de privacidad para el campus. Al menos, explica, le gustaría ver señales de advertencia colocadas cerca de cada dispositivo de escucha. Afirma que, hasta ahora, la dirección ha cooperado, y la instalación de los dispositivos se ha retrasado.
nNewman concluye: "Necesitamos una forma segura de experimentar con estas tecnologías y comprender las consecuencias de su uso en vez de continuar a ciegas hacia la vigilancia con el fin de obtener ganancias. Se trata de aplicaciones sofisticadas con consecuencias de por vida para las personas que son analizadas por ellas, hasta unos objetivos aún desconocidos. Todos debemos ser realmente cuidadosos y reflexionar sobre ello".
n