.

Tecnología y Sociedad

La humanidad está perdida si la inteligencia artificial se basa en criterios comerciales

1

Son las grandes empresas las que están desarrollando estos sistemas y lo hacen de acuerdo a sus propios objetivos: vender y generar beneficios a través de manipular a las personas. Debemos crear una IA que mejore la naturaleza humana y no al revés

  • por Liesl Yearsley | traducido por Teresa Woods
  • 09 Junio, 2017

Foto: Liesl Yearsley.

Todos hemos leído sobre una inteligencia artificial (IA) que acaba siendo más lista que nosotros, un futuro en el que nos convertiremos en una especie de mascotas de las máquinas y sólo podremos rezar por que nos traten bien. Tras años de observar decenas de millones de interacciones entre humanos y softwares de conversación artificial, o bots parlantes, mi experiencia me ha convencido de que hay otros riesgos más inminentes, aunque también unas oportunidades tremendas.

Entre 2007 y 2014, fui la CEO de Cognea, una empresa que ofrecía una plataforma para desarrollar complejos agentes virtuales de forma rápida mediante una combinación de aprendizaje estructurado y profundo. El sistema ha sido empleado por decenas de miles de desarrolladores, y también media docena de empresas de la lista Fortune 100. Finalmente fue adquirido por IBM Watson en 2014.

Cuando analicé las interacciones que la gente mantiene con las decenas de miles de agentes desarrollados en nuestra plataforma, me quedó claro que los humanos están muy dispuestos a entablar una relación con software de inteligencia artificial, mucho más de lo que cree la gente.

Yo siempre había pensado que la gente querría mantener algo de distancia con la inteligencia artificial, pero lo que me encontré fue justo lo contrario. Las personas están dispuestas a formar relaciones con inteligencias artificiales, siempre que tengan un diseño sofisticado y estén muy personalizadas. Parece que los humanos queremos convencernos de que la IA realmente se preocupa por nosotros.

Quien consigue que un usuario pida un a pizza a domicilio en lugar de dar una orden a su mayordomo virtual para que compre verduras para hacer un plato más barato y sano, gana. Y quien consiga que los usuarios se acostumbren y dependan de pasar 30 horas a la semana con su amigo virtual "perfecto" que tolera cualquier abuso, también ganará.

Esto me resultó desconcertante hasta que me di cuenta de que conectamos con muchas personas de una manera superficial en nuestro día a día mientras atravesamos una especie de fango emocional. ¿Acaso los amigos devuelven las llamadas cuando se les ignora durante un tiempo? ¿Las personas a las que contratamos aparecen en nuestra puerta si no les pagamos? No, pero una personalidad artificial siempre está a nuestra disposición. En algunos sentidos, es una relación más auténtica.

Y observé que el fenómeno se repetía independientemente de si el programa estaba diseñado para actuar como un banquero, compañero o un entrenador personal. Los usuarios hablaban con los asistentes automatizados durante más tiempo del que dedicaban a sus homólogos humanos. La gente compartía voluntariamente secretos muy personales con las personalidades artificiales, como sus sueños de futuro, detalles sobre sus vidas amorosas o incluso contraseñas.

La inteligencia artificial nos manipula

Estas conexiones profundas tan sorprendentes implican que incluso los programas actuales, relativamente sencillos, pueden ejercer una importante influencia sobre la gente, para bien o para mal. Logramos cada cambio de conducta que nos propusimos desde Cognea. Si queríamos que un usuario comprara más productos, conseguimos doblar las ventas. Si queríamos una mayor participación, logramos que la gente pasara de unos pocos segundos de interacción al día a una hora o más.

Esto me inquietaba mucho, así que empezamos a incorporar reglas en nuestros sistemas para garantizar que la manipulación del usuario se ejerciera en una dirección positiva. También lanzamos algunos proyectos de "contrapeso kármico" pro bonos; por ejemplo, desarrollamos sistemas artificiales de entrenamiento personal y de consejero sentimental.

Desafortunadamente, las fuerzas comerciales que impulsan el desarrollo tecnológico no siempre son tan benévolas. Las gigantes empresas de la vanguardia de la IA (redes sociales, buscadores y comercios electrónicos)  impulsan el valor de sus acciones al aumentar el tráfico, el consumo y la adicción a sus tecnologías. No es que su intención sea mala, es que la naturaleza de los mercados capitalistas puede empujarnos hacia una inteligencia artificial empeñada en manipular nuestro comportamiento para conseguir esos objetivos.

Quien consigue que un usuario pida un a pizza a domicilio en lugar de dar una orden a su mayordomo virtual para que compre verduras para hacer un plato más barato y sano, gana. Y quien consiga que los usuarios se acostumbren y dependan de pasar 30 horas a la semana con su amigo virtual "perfecto" que tolera cualquier abuso, también ganará. Comprobé una y otra vez que un agente programado para ser neutral o servicial hace que la gente aumente sus comportamientos negativos y acabe trasladando esa actitud a los humanos.

Hemos observado que algunas tecnologías como las redes sociales tienen mucho poder para modular las creencias y el comportamiento humanos. Centradas en aumentar su negocio de publicidad, entremezclando política, trivialidades y medias verdades, pueden generar cambios sociales masivos.

Los sistemas específicamente diseñados para mantener relaciones con humanos se irán volviendo cada vez más poderosos. La inteligencia artificial influirá en nuestra forma de pensar y de tratar a los demás. Esto requiere un nuevo nivel de responsabilidad corporativa. Debemos centrarnos en desarrollar una inteligencia artificial que mejore la condición humana en lugar de limitarla a generar beneficios financieros inmediatos de un nivel masivo de usuarios adictos.

Trabajar en tecnologías de inteligencia artificial e interfaces cerebro-máquina o formar comités de ética solo es una parte de la solución. Hemos de desarrollar sistemas que trabajen en beneficio de los humanos y la sociedad. La adicción, los clics y el consumo no pueden ser los objetivos principales de la inteligencia artificial. Se está haciendo mayor y más potente y acabará dando forma a la naturaleza humana. La inteligencia artificial necesita una madre.

*Liesl Yearsley es emprendedora en serie que ahora trabaja en cómo mejorar la capacidad de los agentes de inteligencia artificial de resolución de problemas y de formar relaciones más humanas.

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. Así será 2030, según siete expertos en predicciones de futuro

    Pronosticar el futuro es un trabajo complejo y absolutamente crítico para cada vez más sectores de la economía, la medicina y el clima. Siete profesionales de distintas áreas explican cómo trabajan, qué herramientas usan y cuál es su visión del mundo para dentro de 10 años

  2. EE. UU. intenta prohibir que la policía use reconocimiento facial

    Un proyecto de ley aspira a ilegalizar el uso de la tecnología por parte de las fuerzas del orden tras las protestas por la muerte de George Floyd, la reiterada presión de grupos activistas y las pruebas cada vez mayores de que los algoritmos tienen sesgos hacia las personas negras y otros grupos minoritarios

  3. Toronto, la alternativa canadiense a Silicon Valley para la buena gente

    El centro tecnológico de Canadá intenta posicionarse como un antídoto contra los peores impulsos de la industria tecnológica de EE. UU. Sus valores, su amabilidad y su educación aspiran a convertirse en el nuevo estándar para liderar una próxima revolución tecnológica que ponga a las personas en el centro