.

Computación

Siete millones de dólares para evitar que los robots dominen a la humanidad

1

Esta ha sido la financiación destinada a 37 proyectos que mitiguen los riesgos que podrían suponer las máquinas superinteligentes

  • por Will Knight | traducido por Teresa Woods
  • 05 Julio, 2015

Aunque no temas la llegada inminente de máquinas superinteligentes, existen motivos para apoyar nueva financiación destinada a investigar el tema, ya que podría hacer más práctica la inteligencia artificial (IA) a corto plazo.

Avances recientes en la informática, sobre todo en el aprendizaje artificial, han coincidido con algunas especulaciones sorprendentemente directas acerca de a dónde nos lleva la IA. El año pasado, el empresario multimillonario Elon Musk advertía públicamente del riesgo que corren las investigaciones de "evocar al diablo" y de que podría suponer "la mayor amenaza existencial" para la humanidad. Otros líderes prominentes, incluidos Bill Gates y Stephen Hawking, también se han mostrados preocupados por los riegos que supone el desarrollo de máquinas verdaderamente inteligentes.

La organización estadounidense Future of Life Institute, con sede en Cambridge (EEUU), para mitigar los posibles riesgos existenciales de la IA, anunció la semana pasada que destinará siete millones de dólares (unos 6,3 millones de euros) en subvenciones para proyectos enfocados a "mantener la inteligencia artificial robusta y beneficiosa". La subvención ha sido financiada en gran parte por Musk, que donó 10 millones de dólares (unos 9 millones de euros) al instituto.

Quizás no tenga sentido contemplar tales resultados indeseables, pero aún nos falta mucho para llegar a crear algo que se pueda considerar realmente inteligente. Mientras que algunos de los 37 proyectos que recibirán subvenciones de Future of Life Institute exploran escenarios bastante fantásticos de IA extremadamente potentes, otros afrontan medidas para hacer el software más fiable, responsable y útil en contextos más complejos o ambiguos.

Por ejemplo:

* Fuxin Li, un investigador científico del Instituto Tecnológico de Georgia (EEUU), estudiaría métodos para comprender y predecir los errores en sistemas de aprendizaje profundo. Supone un esfuerzo muy valorable. Mientras que estas redes neuronales avanzadas han producido resultados espectaculares en los últimos años en campos como el reconocimiento de voz e imágenes, pueden fallar de maneras sorprendentes.

* Stefano Ermon, un profesor adjunto de la Universidad de Stanford (EEUU), investigará maneras de conseguir que los agentes autónomos se comporten de forma racional en situaciones complejas. Algún día, esto podría, por ejemplo, ayudar a que un coche autónomo evalúe los riesgos planteados por distintas acciones dentro de una situación compleja, facilitando que al final actúe de una manera que consideraríamos más responsable y aceptable a nivel ético.

* Seth Herd, un investigador de la Universidad de Colorado (EEUU), intentará aplicar las investigaciones neurocientíficas sobre el proceso de toma de decisiones en humanos a los esfuerzos de construir hardware informático con los llamados sistemas neuromórficos, inspirados en el cerebro humano. Esto podría aportar nuevos conocimientos acerca del diseño de estos sistemas y dirigirnos hacia nuevas aplicaciones.

* Manuela Veloso, una profesora de la Universidad Carnegie Mellon (EEUU), liderará los esfuerzos por desarrollar nuevos métodos para que las máquinas expliquen su comportamiento a los humanos. Puede resultar difícil, incluso para los expertos, entender por qué una máquina se comporta de determinada manera. Mejorar esta situación podría resultar especialmente importante al empezar los robots a trabajar con los humanos de forma más estrecha.

Irónicamente, estos proyectos también demuestran lo lejos que estamos de construir algo que fuese plausible que conquistara el mundo. Y mientras quizás tenga sentido considerar riesgos futuros ahora mientras aún disponemos de tiempo, esperemos que nuestra ansiedad acerca de escenarios futuristas no suponga un riesgo para el proceso tecnológico significante.

Computación

Las máquinas cada vez más potentes están acelerando los avances científicos, los negocios y la vida.

  1. Demostrado el primer radar cuántico de la historia

    El dispositivo basado en fotones entrelazados por microondas ofrece múltiples ventajas a corta distancia frente a los modelos convencionales. La baja potencia de su funcionamiento abre la puerta a aplicaciones médicas no invasivas y de seguridad

  2. Así es el ordenador de nanotubos de carbono más potente del mundo

    Se trata de un microprocesador funcional de 16 bits construido a partir de más de 14.000 transistores de nanotubos de carbono creado por el MIT. Para lograr tal avance, el equipo ha desarrollado varias soluciones para algunos de los históricos problemas de fabricación de chips

  3. Se agravan los ciberataques por el petróleo y el gas del Golfo Pérsico

    Las grandes empresas del sector están sufriendo cada vez más ataques o intentos de penetración en sus sistemas informáticos. Expertos en ciberseguridad acaban de detectar la existencia de un nuevo grupo hacker llamado Hexane y que parece tener similitudes con la guerra cibernética de Irán