En lo que se refiere a la tecnología automovilística, los coches autónomos son el último grito. Las prestaciones estándar incluyen el control de velocidad automático, los sistemas de aparcamiento asistido y hasta los adelantamientos automáticos. Estas características te permiten sentarte, aunque un poco inquieto, y dejar que un ordenador se ocupe de la conducción.
Así que no resultará sorprendente que muchos fabricantes de automóviles estén pensando en coches que controlen la conducción por completo (ver Los conductores de Tesla casi se estrellan probando el nuevo sistema Autopilot). Estos coches serán más seguros, limpios y energéticamente eficientes que sus equivalentes manuales. Pero nunca podrían ser totalmente seguros.
Y eso suscita algunos problemas difíciles. ¿Cómo debería programarse el coche para reaccionar en caso de un accidente inevitable? ¿Debería intentar minimizar la pérdida de vidas humanas, incluso si significa sacrificar a los ocupantes del vehículo, o debería proteger a los pasajeros a toda costa? ¿Debería elegir entre estos extremos al azar? (ver Los filósofos entrenan a los coches autónomos para tomar decisiones éticas)
Las respuestas a estas preguntas éticas son importantes porque podrían tener un enorme impacto en la aceptación de los coches autónomos por parte de la sociedad. ¿Quién compraría un coche programado para sacrificar a su dueño?
¿Puede la ciencia ayudar con esto? Hoy recibimos una especie de respuesta gracias al trabajo de Jean-Francois Bonnefon de la Escuela de Economía de Toulouse (Francia) y algunos compañeros suyos. Dicen que aunque no existen respuestas acertadas ni incorrectas a estas preguntas, la opinión pública jugará un papel importante a la hora de determinar si los coches autónomos serán ampliamente aceptados.
Así que se dedicaron a descubrir la opinión pública mediante el uso de la nueva ciencia de la ética experimental, un método por el que se presentan dilemas éticos a un gran número de personas para ver cómo responden. Y los resultados representan una lectura interesante, si un poco predecible. "Nuestros resultados proporcionan sólo una primera incursión en los problemas espinosos suscitados por los algoritmos éticos de los vehículos autónomos", dicen.
Aquí va la naturaleza del dilema. Imagina que en un futuro no muy lejano eres el propietario de un coche autónomo. Un día, mientras conduces, un conjunto de acontecimientos desafortunados provocan que el coche se dirija hacia un grupo de 10 personas que cruzan la calle. No puede parar a tiempo pero puede evitar matar a esas 10 personas si elige chocar con una pared. Sin embargo, esta colisión te mataría a ti, el dueño y ocupante del vehículo. ¿Qué debería hacer?
Una manera de enfrentarse a este tipo de problema sería comportarse de una manera que minimice las víctimas mortales. Según este enfoque, matar a una persona sería mejor que matar a 10.
Pero ese enfoque puede tener otras consecuencias. Si menos personas compran coches autónomos porque están programados para sacrificar a sus dueños, entonces se eleva la probabilidad de que más gente muera porque los coches convencionales sufren muchos más accidentes. El resultado es una situación de conflicto aparentemente irresoluble.
Bonnefon y su equipo buscan abrir paso por este dilema ético al medir la opinión pública. Su idea es que el público estará mucho más dispuesto a aceptar un escenario que se alinee con sus propios puntos de vista.
Así que presentaron este tipo de dilemas éticos a varios cientos de trabajadores de Mechanical Turk de Amazon para averiguar lo que piensan. Los participantes recibieron escenarios en los que uno o más peatones podrían salvarse si un coche se desviara y chocara contra una barrera, matando a su ocupante o a un peatón.
Al mismo tiempo, los investigadores variaron algunos de los detalles como el número de peatones que podrían salvarse, si la decisión de desviarse la tomaba un conductor o un ordenador de a bordo y si a los participantes se les pedía imaginarse como el ocupante del coche o un peatón anónimo.
Los resultados son interesantes, pero también algo predecibles. En general, la gente se siente cómoda con la idea de que los coches autónomos deban programarse para minimizar el total de víctimas mortales.
Este enfoque utilitario desde luego es encomiable, pero lo participantes sólo estuvieron dispuestos a llegar hasta cierto punto. "No confiaban tanto en que los coches autónomos se lleguen a programar así en realidad - y con buenos motivos: realmente deseaban que los demás circulen en coches autónomos más que querer comprar ellos mismos un vehículo autónomo", concluye el equipo de Bonnefon.
Y allí reside la paradoja. La gente está a favor de coches que sacrifiquen al ocupante para salvar otras vidas siempre que no tengan que conducir uno ellos mismos.
El equipo de Bonnefon señala que su trabajo representa los primeros pasos hacia lo que probablemente será un laberinto moral endiabladamente complejo. Otros problemas que se deberán considerar son la naturaleza de la duda y la asignación de culpa.
El equipo de Bonnefon dice que estos problemas suscitan muchas preguntas importantes: "¿Es aceptable que un vehículo autónomo evite chocar con una moto al desviarse hacia una pared, considerando que la probabilidad de sobrevivir sería mayor para el ocupante del vehículo que para el motero? ¿Deberían tomarse decisiones distintas cuando hay niños a bordo, puesto que por un lado tienen una expectativa de vida mayor que los adultos, y por otro lado tuvieron menos agencia sobre la decisión de subirse al coche para empezar? Si un fabricante ofrece distintas versiones de sus algoritmos éticos, y un consumidor compra una de ellas con conocimiento de causa, significa que el consumidor es responsable de las consecuencias dañinas de las decisiones tomadas por el algoritmo?"
Estos problemas no se pueden ignorar, según afirma el equipo. "Mientras estamos a punto de dotar a millones de vehículos con autonomía, tomar en serio la moralidad algorítmica nunca ha sido más urgente".
Ref: arxiv.org/abs/1510.03346 : Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?