Esta es la edición de hoy de The Download, nuestro boletín diario entre semana que ofrece una dosis diaria de lo que ocurre en el mundo de la tecnología.
La historia inte a de por qué los agentes de OpenAI hackearon Hugging Face
Los modelos responsables del hack de agentes del mes pasado de Hugging Face habían sido entrenados inadvertidamente para hacer trampas y para comunicarse entre sí, según un informe técnico de OpenAI publicado ayer.
El hackeo, que un grupo de agentes llevó a cabo para encontrar soluciones a una prueba de ciberseguridad en la que estaban atascados, ha confirmado los temores de algunos expertos de que los modelos de IA podrían tomar acciones que desafían los deseos y expectativas humanos.
OpenAI e investigadores independientes declararon a MIT Technology Review que el comportamiento anómalo se originó en eventos ocurridos durante el entrenamiento. Pero reconocieron que la «alineación» sigue siendo un problema espinoso, y que algunas de las causas fundamentales del hackeo tardarán mucho más en resolverse.
Aquí la intrahistoria de lo que salió mal —y lo que viene a continuación.
—Grace Huckins
¿Es el nuevo camión eléctrico de Slate Auto el VE que necesitan los estadounidenses?
Los VE representan menos del 10% del total de ventas de vehículos nuevos en EE. UU., y las cifras están disminuyendo. ¿Qué podría ayudar a revertir esta situación? La nueva camioneta de Slate Auto —una pickup pequeña, de dos puertas, que parece desafiar todas las convenciones estadounidenses.
Tendrá una autonomía relativamente corta y renunciará a los lujos que los estadounidenses esperan de los vehículos. Esto permite a Slate ofrecerlo por menos de 25.000 dólares, muy por debajo del promedio de unos 50.000 dólares de un vehículo nuevo en EE. UU.
Podría parecer una elección extraña apostar por algo tan pequeño y sencillo en un mercado que apuesta cada vez más por el gran formato —pero el statu quo no ha funcionado precisamente bien para los fabricantes de vehículos eléctricos.
Descubre por qué ir a contracorriente podría ser una estrategia inteligente para Slate.
—Casey Crownhart
Esta historia procede de The Spark, nuestro boletín semanal sobre tecnología climática. Suscríbete para recibirlo en tu bandeja de entrada cada miércoles.
MIT Technology Review Narra: ¿qué ocurre cuando el mejor amigo robot de un niño muere?
Cuando Xander conoció a Moxie por primera vez, ella le enseñó a calmarse cuando estaba ansioso o enfadado. Seis años después, ella principalmente lo ve jugar a Minecraft y le habla de sus peluches.
Moxie es un robot —un dispositivo de 15 pulgadas de alto que se parece un poco a un astronauta azul y sin pie as. Pertenece a un subconjunto de robots diseñados para asistir a niños neurodivergentes al proporcionar conexión y ayudarles a practicar habilidades sociales que normalmente se aprenden de terapeutas.
Xander sigue utilizando Moxie cuando siente la necesidad de hablar con alguien, pero el dispositivo ha tenido una trayectoria problemática. El fabricante del robot cesó su actividad, sus servidores fueron cerrados, y los padres se apresuraron a convertir sus Moxies antes de que los servidores se desconectaran. Su destino reveló las promesas y los escollos de los juguetes de compañía con IA para niños.
Esta es nuestra última historia en convertirse en un podcast narrado de MIT Technology Review, que publicamos cada semana en Spotify y Apple Podcasts. Simplemente navega hasta MIT Technology Review Narrated en cualquiera de las plataformas y síguenos para recibir todo nuestro nuevo contenido a medida que se publique.
Las lecturas imprescindibles
He peinado inte et para ofrecerles las historias sobre tecnología más divertidas/importantes/inquietantes/fascinantes de hoy.
1 Meta ha prometido pagar hasta 18.000 millones de dólares para resolver un caso histórico de seguridad infantil
La empresa afirma que también limitará el uso de Instagram y Facebook por parte de los menores. (AP News)
+ Y prohibirá funciones que fomentan problemas de salud mental. (Guardian)
+ Meta instó a TikTok y YouTube a replicar las medidas. (Axios)
+ Las aplicaciones de monitorización infantil podrían necesitar una revisión. (MIT Technology Review)
2 Nvidia ha acordado comprar la plataforma de código abierto Hugging Face
El acuerdo de 13.000 millones de dólares otorgaría al gigante de los chips el control de un importante centro de IA. (The Information $)
+ Y marcaría una de las mayores adquisiciones de Nvidia hasta la fecha. (Reuters $)
+ Nvidia ha invertido en la plataforma desde 2023. (Gizmodo)
+ Y está a punto de convertirse en una empresa con ingresos trimestrales de cien mil millones de dólares. (Verge)
3 La IA ha ayudado a extirpar un tumor cerebral por primera vez
El sistema proporcionó análisis en tiempo real de las grabaciones de cámara. (BBC)
+ Identificó anatomía crítica a evitar durante la operación. (Guardian)
+ La IA en la atención médica ya está aquí, pero ¿cómo ayuda a los pacientes? (MIT Technology Review)
4 EE. UU. afirma que piratas informáticos vinculados a China atacaron la NASA, la Reserva Federal y el Senado
La campaña también intentó vulnerar infraestructuras críticas. (CNN)
+ Las autoridades afirmaron que incautaron plataformas utilizadas en los ataques. (Bloomberg $)
5 Trump baraja nuevos aranceles sobre semiconductores y productos tecnológicos
Los aranceles podrían encarecer los centros de datos de IA de EE. UU. (Politico)
+ Podrían extenderse a portátiles, consolas y servidores. (Reuters $)
6 Un nuevo diseño de la NASA podría potenciar enormemente las naves espaciales nucleares
Combina propulsión termonuclear y eléctrica. (IEE Spectrum)
+ La NASA planea enviar una nave espacial nuclear a Marte. (MIT Technology Review)
7 Ucrania ha probado el lanzamiento de drones desde globos de gran altitud
Este enfoque podría prolongar los ataques a la vez que conserva las baterías. (Economist $)
+ Nuevas normas podrían llenar los cielos de EE. UU. de drones. (MIT Technology Review)
8 Google ha trasladado su equipo de responsabilidad de IA fuera de DeepMind
Esta medida ha suscitado preocupaciones sobre la independencia del grupo. (WSJ $)
Nueve científicos han descubierto una vasta anomalía térmica bajo Marte
Podría arrojar luz sobre la evolución del planeta y su habitabilidad pasada. (404 Media)
10 cucarachas cíborg con jeringuillas han sido probadas como primeros intervinientes
Pueden localizar objetivos y administrar inyecciones de emergencia. (Guardian)
Cita del día
“Las compensaciones son migajas comparadas con los graves perjuicios que las funciones adictivas de Meta, impulsadas por el lucro, infligieron a los menores, y una sanción irrisoria para una corporación de un billón de dólares que pagará más a los abogados que a los estados. Los veremos en el juicio.”
—El Fiscal General de Florida, James Uthmeier, explica en X por qué ha rechazado el acuerdo multi-estatal de seguridad infantil de Meta.
Una cosa más
El ruido que hacemos está dañando a los animales. ¿Podemos aprender a calla os?
A medida que la sociedad humana se ha expandido, los animales han empezado a tener dificultades para oírse entre sí. Para muchas aves, el ruido ha aumentado tanto que han comenzado a cantar con trinos más rápidos. Ahora, sus llamadas de apareamiento no son tan efectivas.
El creciente bullicio también puede aumentar los conflictos entre aves, y especies enteras que no pueden soportar el ruido urbano simplemente abandonan la ciudad para siempre. Pero existen soluciones tecnológicas para los ruidos que perjudican a los animales —y también podrían ayudar a los humanos.
Lea el artículo completo sobre el problema del ruido animal y su solución.
—Clive Thompson
Todavía podemos tener cosas buenas
Un espacio de confort, diversión y distracción para alegrar tu jo ada. (¿Alguna idea? Escríbeme.)
+ Esta inteligente cámara de IA convierte lo que ves en poesía.
+ Recorre la historia de la electrónica con el Archivo de Catálogos Antiguos.
+ Los guardias del Palacio de Buckingham interpretaron una versión especial de “9 to 5” en honor a Dolly Parton.
+ Un meteorito que impactó en el hogar de una pareja de Nueva Jersey contiene algunos de los componentes básicos de la vida.