.

Computación

Siete millones de dólares para evitar que los robots dominen a la humanidad

1

Esta ha sido la financiación destinada a 37 proyectos que mitiguen los riesgos que podrían suponer las máquinas superinteligentes

  • por Will Knight | traducido por Teresa Woods
  • 05 Julio, 2015

Aunque no temas la llegada inminente de máquinas superinteligentes, existen motivos para apoyar nueva financiación destinada a investigar el tema, ya que podría hacer más práctica la inteligencia artificial (IA) a corto plazo.

Avances recientes en la informática, sobre todo en el aprendizaje artificial, han coincidido con algunas especulaciones sorprendentemente directas acerca de a dónde nos lleva la IA. El año pasado, el empresario multimillonario Elon Musk advertía públicamente del riesgo que corren las investigaciones de "evocar al diablo" y de que podría suponer "la mayor amenaza existencial" para la humanidad. Otros líderes prominentes, incluidos Bill Gates y Stephen Hawking, también se han mostrados preocupados por los riegos que supone el desarrollo de máquinas verdaderamente inteligentes.

La organización estadounidense Future of Life Institute, con sede en Cambridge (EEUU), para mitigar los posibles riesgos existenciales de la IA, anunció la semana pasada que destinará siete millones de dólares (unos 6,3 millones de euros) en subvenciones para proyectos enfocados a "mantener la inteligencia artificial robusta y beneficiosa". La subvención ha sido financiada en gran parte por Musk, que donó 10 millones de dólares (unos 9 millones de euros) al instituto.

Quizás no tenga sentido contemplar tales resultados indeseables, pero aún nos falta mucho para llegar a crear algo que se pueda considerar realmente inteligente. Mientras que algunos de los 37 proyectos que recibirán subvenciones de Future of Life Institute exploran escenarios bastante fantásticos de IA extremadamente potentes, otros afrontan medidas para hacer el software más fiable, responsable y útil en contextos más complejos o ambiguos.

Por ejemplo:

* Fuxin Li, un investigador científico del Instituto Tecnológico de Georgia (EEUU), estudiaría métodos para comprender y predecir los errores en sistemas de aprendizaje profundo. Supone un esfuerzo muy valorable. Mientras que estas redes neuronales avanzadas han producido resultados espectaculares en los últimos años en campos como el reconocimiento de voz e imágenes, pueden fallar de maneras sorprendentes.

* Stefano Ermon, un profesor adjunto de la Universidad de Stanford (EEUU), investigará maneras de conseguir que los agentes autónomos se comporten de forma racional en situaciones complejas. Algún día, esto podría, por ejemplo, ayudar a que un coche autónomo evalúe los riesgos planteados por distintas acciones dentro de una situación compleja, facilitando que al final actúe de una manera que consideraríamos más responsable y aceptable a nivel ético.

* Seth Herd, un investigador de la Universidad de Colorado (EEUU), intentará aplicar las investigaciones neurocientíficas sobre el proceso de toma de decisiones en humanos a los esfuerzos de construir hardware informático con los llamados sistemas neuromórficos, inspirados en el cerebro humano. Esto podría aportar nuevos conocimientos acerca del diseño de estos sistemas y dirigirnos hacia nuevas aplicaciones.

* Manuela Veloso, una profesora de la Universidad Carnegie Mellon (EEUU), liderará los esfuerzos por desarrollar nuevos métodos para que las máquinas expliquen su comportamiento a los humanos. Puede resultar difícil, incluso para los expertos, entender por qué una máquina se comporta de determinada manera. Mejorar esta situación podría resultar especialmente importante al empezar los robots a trabajar con los humanos de forma más estrecha.

Irónicamente, estos proyectos también demuestran lo lejos que estamos de construir algo que fuese plausible que conquistara el mundo. Y mientras quizás tenga sentido considerar riesgos futuros ahora mientras aún disponemos de tiempo, esperemos que nuestra ansiedad acerca de escenarios futuristas no suponga un riesgo para el proceso tecnológico significante.

Computación

Las máquinas cada vez más potentes están acelerando los avances científicos, los negocios y la vida.

  1. Un entrelazamiento a 50 km revive el sueño del internet 100% seguro

    Un nuevo enfoque ha conseguido entrelazar dos partículas separadas por un cable de fibra óptima a 50 kilómetros de distancia. Este podría ser el enfoque que siente las bases del futuro internet cuántico y podría usarse dentro de poco para establecer redes entre distintas ciudades

  2. ¿Deberíamos saber cómo el FBI logró atrapar al capo de la 'dark web'?

    Seis años después de su detención, el responsable de Freedom Hosting, Eric Marques, se ha declarado culpable. Pero ni sus abogados ni la sociedad saben qué técnicas usó la agencia para localizarle, lo que podría indicar que su estrategia no fue del todo legal y que pudo afectar a usuarios inocentes

  3. Por qué en 2020 los hackers van a ser el arma favorita de los gobiernos

    Con unos Juegos Olímpicos y las elecciones presidenciales de EE. UU. a la vuelta de la esquina, varios expertos en ciberseguridad y geopolítica advierten de que las naciones se están aprovechando cada vez más de sus hackers más para influir en el panorama internacional