.

Jeremy Portje

Robótica

El chatbot racista de Microsoft, el mejor ejemplo a evitar para la IA

1

Tay, el bot parlante de Microsoft que aprendía de sus conversaciones con la gente, no tardó en convertirse en una pesadilla. Ahora, el jefe de inteligencia de máquinas de Yandex afirma que Tay ofrece unas cuantas grandes lecciones de lo que no hay que hacer con una inteligencia artificial

  • por Rachel Metz | traducido por Mariana Díaz
  • 10 Abril, 2018

¿Se acuerda de Tay, el chatbot de Microsoft que hace dos años circulaba por Twitter y otras redes sociales y que, poco después de ser liberado a la jungla de internet acabó convertido en un algoritmo neonazi racista enloquecido por el sexo? (ver La IA racista y neonazi de Microsoft fue culpa de Microsoft)

Lo que comenzó como un divertido experimento social que pretendía que cualquiera pudiera hablar con el programa para que este aprendiera y, con suerte, el usuario se entretuviera, se convirtió en una pesadilla para los creadores de Tay. Los usuarios no tardaron en descubrir cómo hacer que Tay dijera cosas horribles. Microsoft tardó menos de un día en desconectar el servicio.

Sin embargo, el jefe de inteligencia de máquinas e investigación del gigante tecnológico ruso Yandex, Misha Bilenko, cree que el experimento fue una bendición para el sector de los asistentes de inteligencia artificial (IA).

Crédito: Jeremy Portje

En su charla durante la reciente conferencia anual EmTech Digital organizada por MIT Technology Review en San Francisco (EE. UU.), Bilenko dijo que los errores de Tay, como su vulnerabilidad a ser juzgado para aprender o repetir frases ofensivas, se han convertido en grandes lecciones sobre lo que puede salir mal. Es decir, Tay es un maravilloso ejemplo de lo que no hay que hacer a la hora de desarrollar un programa de este tipo.

Para el responsable, la forma en que Tay evolucionó velozmente, dejando de ser un robot amante de la diversión (fue entrenada para tener la personalidad de una chica de 19 años) para convertirse en un monstruo de IA, demuestra la importancia de poder abordar rápido este tipo de situaciones. Y eso es algo que no es precisamente fácil de hacer. Además, Bilenko destaca que la gente tienen una gran tendencia a antropomorfizar la IA bajo la idea de que se traba de un programa con grandes conocimientos en lugar de verla como la máquina estadística que realmente es.

"Microsoft lo hizo todo al revés, pero al echar la vista atrás, Tay se ha convertido en un estudio de caso realmente útil", dijo Bilenko.

Los chatbots y asistentes inteligentes han cambiado considerablemente desde 2016. Ahora son mucho más populares, están disponibles en todas partes, desde aplicaciones para teléfonos inteligentes hasta altavoces inteligentes, y sus capacidades cada vez son mayores (ver Woebot, el robot parlante que reduce los síntomas de depresión en dos semanas). Pero todavía hay cosas que se les dan muy mal, como algunas de las que Tay trataba de perfeccionar, como la personalidad y la capacidad de dar conversación.

Bilenko no cree que la situación vaya a cambiar en seguida, al menos no durante los próximos cinco años. Para el experto, las conversaciones que los humanos tienen son "muy difíciles".

Robótica

 

La inteligencia artificial y los robots están transofrmando nuestra forma de trabajar y nuestro estilo de vida.

  1. La nueva IA de Facebook guiará a los turistas para mejorar su lenguaje

    La última estrategia de la red social para conseguir que los sistemas de inteligencia artificial adquieran sentido común sobre el mundo real y puedan abordar conversaciones complejas consiste en personificar a un sistema para vincular su aprendizaje a objetos e imágenes del mundo real

  2. Un nuevo semáforo virtual podría acortar los desplazamientos un 20 %

    El sistema, incorporado en el ordenador de abordo del vehículo, utiliza su sistema de radio de onda corta para comunicarse con el resto de automóviles y decidir quién tiene prioridad. Aunque la primera prueba ha sido un éxito, excluye a peatones, bicicletas y modelos más antiguos

  3. Así se transformarán las ciudades con los vehículos autónomos

    Lugares como Phoenix, en Estados Unidos, podrían cambiar drásticamente su estilo de vida si experimentos con automóviles sin conductor, como los de la empresa Waymo, tienen éxito. La transición a un nuevo tipo de movilidad colectiva donde haya más zonas peatonales, espacios verdes, vehículos compartidos y camiones autónomos de reparto puede estar a punto de llegar