.

Computación

Siete millones de dólares para evitar que los robots dominen a la humanidad

1

Esta ha sido la financiación destinada a 37 proyectos que mitiguen los riesgos que podrían suponer las máquinas superinteligentes

  • por Will Knight | traducido por Teresa Woods
  • 05 Julio, 2015

Aunque no temas la llegada inminente de máquinas superinteligentes, existen motivos para apoyar nueva financiación destinada a investigar el tema, ya que podría hacer más práctica la inteligencia artificial (IA) a corto plazo.

Avances recientes en la informática, sobre todo en el aprendizaje artificial, han coincidido con algunas especulaciones sorprendentemente directas acerca de a dónde nos lleva la IA. El año pasado, el empresario multimillonario Elon Musk advertía públicamente del riesgo que corren las investigaciones de "evocar al diablo" y de que podría suponer "la mayor amenaza existencial" para la humanidad. Otros líderes prominentes, incluidos Bill Gates y Stephen Hawking, también se han mostrados preocupados por los riegos que supone el desarrollo de máquinas verdaderamente inteligentes.

La organización estadounidense Future of Life Institute, con sede en Cambridge (EEUU), para mitigar los posibles riesgos existenciales de la IA, anunció la semana pasada que destinará siete millones de dólares (unos 6,3 millones de euros) en subvenciones para proyectos enfocados a "mantener la inteligencia artificial robusta y beneficiosa". La subvención ha sido financiada en gran parte por Musk, que donó 10 millones de dólares (unos 9 millones de euros) al instituto.

Quizás no tenga sentido contemplar tales resultados indeseables, pero aún nos falta mucho para llegar a crear algo que se pueda considerar realmente inteligente. Mientras que algunos de los 37 proyectos que recibirán subvenciones de Future of Life Institute exploran escenarios bastante fantásticos de IA extremadamente potentes, otros afrontan medidas para hacer el software más fiable, responsable y útil en contextos más complejos o ambiguos.

Por ejemplo:

* Fuxin Li, un investigador científico del Instituto Tecnológico de Georgia (EEUU), estudiaría métodos para comprender y predecir los errores en sistemas de aprendizaje profundo. Supone un esfuerzo muy valorable. Mientras que estas redes neuronales avanzadas han producido resultados espectaculares en los últimos años en campos como el reconocimiento de voz e imágenes, pueden fallar de maneras sorprendentes.

* Stefano Ermon, un profesor adjunto de la Universidad de Stanford (EEUU), investigará maneras de conseguir que los agentes autónomos se comporten de forma racional en situaciones complejas. Algún día, esto podría, por ejemplo, ayudar a que un coche autónomo evalúe los riesgos planteados por distintas acciones dentro de una situación compleja, facilitando que al final actúe de una manera que consideraríamos más responsable y aceptable a nivel ético.

* Seth Herd, un investigador de la Universidad de Colorado (EEUU), intentará aplicar las investigaciones neurocientíficas sobre el proceso de toma de decisiones en humanos a los esfuerzos de construir hardware informático con los llamados sistemas neuromórficos, inspirados en el cerebro humano. Esto podría aportar nuevos conocimientos acerca del diseño de estos sistemas y dirigirnos hacia nuevas aplicaciones.

* Manuela Veloso, una profesora de la Universidad Carnegie Mellon (EEUU), liderará los esfuerzos por desarrollar nuevos métodos para que las máquinas expliquen su comportamiento a los humanos. Puede resultar difícil, incluso para los expertos, entender por qué una máquina se comporta de determinada manera. Mejorar esta situación podría resultar especialmente importante al empezar los robots a trabajar con los humanos de forma más estrecha.

Irónicamente, estos proyectos también demuestran lo lejos que estamos de construir algo que fuese plausible que conquistara el mundo. Y mientras quizás tenga sentido considerar riesgos futuros ahora mientras aún disponemos de tiempo, esperemos que nuestra ansiedad acerca de escenarios futuristas no suponga un riesgo para el proceso tecnológico significante.

Computación

Las máquinas cada vez más potentes están acelerando los avances científicos, los negocios y la vida.

  1. Google alerta: lanzar parches de software da vía libre a los hackers

    Al limitarse a crear parches superficiales en lugar de solucionar el problema de raíz, las empresas permiten que explotar vulnerabilidades de día cero de forma reiterada resulte increíblemente fácil. Deben invertir más tiempo y dinero para que los profesionales puedan solucionar los fallos de forma integral 

  2. Cómo la soberanía digital amenaza el avance y las ventajas de la nube

    Las iniciativas de distintos países para establecer reglas propias para los datos nacionales por parte de proveedores internacionales de computación en la nube hará que el acceso a la tecnología sea cada vez más caro y complicado y concentrará sus beneficios en un puñado de grandes empresas capaces de afrontar los cambios

  3. Casi 20.000 empresas y gobiernos, víctimas de un hackeo ruso masivo

    Gracias a un trabajo "inteligente y estratégico", los ciberdelincuentes colocaron una puerta trasera en el software de SolarWinds y la usaron durante meses sin ser detectados. Entre las víctimas del ciberataque destacan los departamentos del Tesoro, de Comercio y de Seguridad nacional de EE. UU.