.

Ms. Tech

Inteligencia Artificial

"Los asistentes virtuales son extremadamente estúpidos"

1

El investigador del MIT Boris Katz lleva cuatro décadas enseñando a las máquinas habilidades lingüísticas. Aunque está orgulloso en parte de que llevemos asistentes virtuales en los bolsillos, también cree que están muy lejos de ser inteligentes. A su juicio, la IA aún tiene que aprender cómo entendemos el mundo

  • por Will Knight | traducido por Ana Milutinovic
  • 25 Marzo, 2019

Siri, Alexa, Google Home: la tecnología que analiza el lenguaje está abriendo su camino cada vez más en la vida cotidiana.

Al científico investigador principal del MIT Boris Katz eso no le impresiona tanto. Durante los últimos 40 años, Katz contribuyó de manera fundamental a dotar de capacidades lingüísticas a las máquinas. En la década de 1980, desarrolló START, un sistema capaz de responder a las consultas expresadas de forma natural. Las ideas utilizadas en START ayudaron a Watson de IBM a ganar en el concurso estadounidense Jeopardy! y sentaron las bases de los sirvientes artificiales que hablan hoy en día.

Pero a Katz le preocupa ahora que este campo se base en las ideas de hace décadas y que estas ideas no nos proporcionarán máquinas con inteligencia real. Me reuní con él para hablar sobre los límites actuales de los asistentes de inteligencia artificial y para escuchar su opinión sobre hacia dónde dirigir la investigación para que alguna vez lleguen a ser más inteligentes. 

¿Cómo comenzó a interesarse por hacer que los ordenadores usen el lenguaje?

Mi primer encuentro con los ordenadores fue en la década de 1960 como estudiante en la Universidad de Moscú (Rusia). La máquina que utilicé en concreto fue un mainframe [un ordenador de grandes dimensiones] llamado BESM-4. Solo se podía usar el sistema octal para comunicarse con él. Mi primer proyecto informático consistió en enseñar a un ordenador cómo leer, comprender y resolver problemas matemáticos. 

Después desarrollé un programa informático que escribía poesía. Todavía recuerdo estar en la sala esperando ver el siguiente poema generado por la máquina. Me sorprendió la belleza de los poemas; parecían creados por una entidad inteligente. Y entonces supe que quería trabajar durante el resto de mi vida creando máquinas inteligentes y encontrando formas de comunicarme con ellas.

¿Qué opina de Siri, Alexa y otros asistentes personales?

Es gracioso hablar sobre eso, porque por un lado estamos muy orgullosos de este increíble progreso; todo el mundo en su bolsillo tiene algo que nosotros desde aquí ayudamos a crear hace muchos, muchos años, lo cual es maravilloso.

Pero por otra parte, estos programas son extremadamente estúpidos. Así que tenemos una sensación de estar orgullosos y también casi avergonzados. Lanzamos algo que la gente cree que es inteligente, pero no está ni siquiera cerca de serlo.

Ha habido un progreso significativo en la inteligencia artificial gracias al aprendizaje automático. ¿No hace eso que las máquinas sean mejores en el lenguaje?

Por un lado, existe este progreso drástico, pero una parte de este progreso está exagerada. Si miramos los avances en el aprendizaje automático, todas las ideas surgieron hace 20 o 25 años. Es solo que con el tiempo los ingenieros realizaron un gran trabajo al hacer de estas ideas una realidad. Esta tecnología, siendo tan buena como es, no resolverá el problema de la comprensión real, de la inteligencia real.

Sin embargo, parece que estamos progresando en la inteligencia artificial... (ver TR 10: Asistentes de IA que hablan casi como los humanos).

Las técnicas modernas estadísticas como el aprendizaje automático y el aprendizaje profundo son muy buenas para encontrar regularidades a un nivel muy alto. Y como los humanos solemos producir las mismas frases la mayoría del tiempo, es muy fácil encontrarlas en el lenguaje.

El ejemplo de eso es el texto predictivo. La máquina sabe mejor que nosotros lo que vamos a decir. Podríamos llamarlo inteligente, pero es solo contar palabras y números. Como seguimos diciendo lo mismo, es fácil crear sistemas que capturen las regularidades y actúen como si fueran inteligentes. Esta es la naturaleza ficticia de gran parte del progreso actual.

¿Qué piensa de la herramienta de generación de lenguaje tan "peligrosa" anunciada recientemente por OpenAI (ver Las cuatro técnicas para enseñar a la IA a escribir 'fake news'?

Estos ejemplos son realmente impresionantes, pero no estoy seguro de lo que nos enseñan. El modelo de lenguaje de OpenAI fue entrenado con ocho millones de páginas web para predecir la siguiente palabra, dadas todas las palabras anteriores en algún texto, que tenían el mismo tema que el modelo en el que se entrenó. Esta gran cantidad de entrenamiento sin duda aseguró la coherencia local, sintáctica e incluso semántica del texto.

¿Por qué cree que la IA se dirige hacia una vía equivocada en el lenguaje?

En el procesamiento del lenguaje, como en otros campos, el progreso fue posible gracias a los modelos de entrenamiento con enormes cantidades de datos, muchos millones de frases. Pero el cerebro humano no podría aprender un idioma usando este paradigma. No dejamos a nuestros bebés con una enciclopedia en la cuna, esperando que dominen el idioma.

Cuando vemos algo, lo describimos con palabras; cuando escuchamos a alguien hablar sobre algo, nos imaginamos cómo son los objetos y acontecimientos descritos en el mundo. Los seres humanos viven en un entorno físico lleno de información sensorial visual, táctil y lingüística, y la naturaleza redundante y complementaria de esta información hace posible que los niños humanos tengan sentido fuera del mundo y aprendan el idioma al mismo tiempo. ¿Quizá al estudiar estas modalidades de forma aislada hemos hecho el problema más difícil en lugar de más fácil?

Foto: El investigador del MIT Boris Katz. Fuente: MIT

¿Por qué es importante el sentido común?

Digamos que su robot le está ayudando a empaquetar, y usted le dice: "Este libro no entra en el paquete rojo porque es demasiado pequeño. Claramente, usted quiere que su robot entienda que el paquete rojo es demasiado pequeño, para poder seguir teniendo una conversación coherente. Sin embargo, si le dice al robot: "Este libro no entra en el paquete rojo porque es demasiado grande", usted quiere que su robot entienda que el libro es demasiado grande.

Saber en una conversación a qué entidad se refiere un pronombre es una tarea muy común que los humanos realizan todos los días pero, como se puede ver en estos y otros ejemplos, a menudo se basa en una comprensión profunda del mundo, que actualmente está fuera del alcance de nuestras máquinas: comprensión del sentido común y la física intuitiva, comprensión de las creencias e intenciones de los demás, capacidad de visualizar y razonar sobre causa y efecto, y muchas más. 

Está usted tratando de enseñar el lenguaje a las máquinas usando mundos físicos simulados. ¿Por qué?

Todavía tengo que ver a un bebé cuyos padres ponen una enciclopedia en la cuna y le dicen: "Venga, aprende". Y esto es lo que hacen nuestros ordenadores hoy en día. No creo que estos sistemas aprendan de la manera que queremos o que entiendan el mundo tal y como nosotros queremos que lo hagan. 

Lo que pasa con los bebés es que obtienen una inmediata experiencia táctil del mundo. Entonces los bebés comienzan a ver el mundo y absorben lo que sucede y las propiedades de los objetos. Y después el bebé oye una entrada lingüística finalmente. Y es esta entrada complementaria la que hace que suceda la magia de la comprensión. 

¿Cuál es un mejor enfoque?

Una forma de avanzar es consiguiendo una mayor comprensión de la inteligencia humana y luego usando esa comprensión para crear máquinas inteligentes. La investigación de la IA debe basarse en las ideas de la psicología del desarrollo, la ciencia cognitiva y la neurociencia, y los modelos de la IA deben reflejar lo que ya se sabe sobre cómo aprendemos y entendemos el mundo.

El progreso real vendrá solo cuando los investigadores salgan de nuestras oficinas y comiencen a hablar con personas en otros campos. Juntos nos acercaremos a la comprensión de la inteligencia y descubriremos cómo replicarla en máquinas inteligentes que pueden hablar, ver y trabajar en nuestro mundo físico.

El reto de crear máquinas verdaderamente inteligentes es muy difícil, pero también es uno de los desafíos más importantes que tenemos.

Inteligencia Artificial

 

La inteligencia artificial y los robots están transofrmando nuestra forma de trabajar y nuestro estilo de vida.

  1. El padre de los 'deepfakes' lucha contra el monstruo en el que se han convertido

    Si su iPhone es capaz de convertirle en un unicornio es gracias al trabajo de Hao Li. Después de perfeccionar su trabajo para aplicarlo el cine y la medicina, se ha centrado en encontrar formas de detectar estas falsificaciones cada vez más realistas, fáciles de crear y difíciles de identificar

  2. Este avance traerá chatbots más inteligentes y más noticias falsas

    El fabricante de chips Nvidia está centrando sus esfuerzos en el procesamiento del lenguaje natural. Su nuevo software, basado en dos enfoques de Google, está diseñado para eso, una novedad tecnológica que, como siempre, tiene un parte buena y una mala

  3. Google publica un vídeojuego para que la IA aprenda a jugar al fútbol

    El equipo de inteligencia artificial del gigante ha lanzado 'Google Research Football Environment', un entorno con varios niveles de complejidad que cualquier investigador puede usar para entrenar a sus algoritmos a lidiar con lo imprevisible