Expertos HC

Y el aspecto más descuidado de los vehículos autónomos es… su ética

En caso de accidente, los coches autónomos decidirán siempre lo mejor para el conductor. ¿Hasta qué punto es ético priorizar la vida de los que van abordo para sacrificar la seguridad de los demás?

Los vehículos autónomos han recorrido un largo camino desde que ninguno de los participantes del DARPA Grand Challenge 2004 logró siquiera terminar el recorrido. Ahora hay numerosas pruebas en la vía pública y Tesla ha lanzado una versión beta de su Full Self Driving. Pero hay un problema importante que debe abordarse antes de que podamos dejar que nuestros coches conduzcan por nosotros, y no es técnico. Es ético.

El problema es así. Imagine que un vehículo autónomo descubre a un peatón en su camino y circula demasiado rápido para detenerse de manera segura. Tiene dos opciones. Puede intentar detenerse, pero probablemente atropellará y matará al peatón. O puede desviarse del peatón pero probablemente chocará con una barrera que dañará o matará al ocupante. ¿Cuál elige?

Hay un problema importante que debe abordarse antes de que podamos dejar que nuestros coches conduzcan por nosotros, y no es técnico. Es ético.

Parece una elección sencilla, pero cuanto más se mira, más matices aparecen. ¿Y si el peatón es madre e hijo? ¿Y si el coche está lleno de niños? ¿Qué pasa si una frenada brusca puede significar que el automóvil que va detrás también tiene un accidente? En otras palabras, su automóvil autónomo tendrá que calcular el menor daño a la vida humana y eso podría significar que decide que el menor daño sería matar a sus ocupantes.

Tomamos estas decisiones de forma natural como conductores humanos. Un perro corre hacia la carretera. Frenamos y tratamos de evitar al animal, pero la mayoría de nosotros preferiría matar al perro en lugar de hacernos daño a nosotros mismos y a los ocupantes de nuestro automóvil. Intentaríamos extrañar al perro, pero no a costa de nuestra propia vida. Si es un niño en la carretera, probablemente sea más probable que nos hagamos daño para prevenir o reducir las lesiones al niño. Pero aún así no nos desviaríamos en el camino de un vehículo que se aproxima para hacerlo.

Sin embargo, la pregunta no es solo sobre la menor cantidad de lesiones. En caso de accidente, ¿quién es el responsable? Si el peatón ha estado cruzando imprudentemente, tal vez sea su culpa y merecen ser lesionados más que los ocupantes del automóvil. Pero si el sistema de conducción autónoma ha decidido a quién dañar y a quién no dañar, ¿es culpa del conductor, del fabricante del automóvil o de la empresa que programó el software de conducción autónoma?

Sin embargo, la pregunta no es solo sobre la menor cantidad de lesiones. En caso de accidente, ¿quién es el responsable? 

Ya estamos viendo algunos indicios de que este argumento surge cuando los coches de Tesla que utilizan el autoviraje y el control de crucero adaptativo tienen accidentes. No es común, pero cuando ocurre un accidente relacionado con el piloto automático, la pregunta es si el conductor debería haber hecho más o el sistema no hizo su trabajo correctamente y, por lo tanto, Tesla es responsable. No es una situación clara, incluso si Tesla pudiera argumentar que el piloto automático no causará accidentes. De manera similar, Uber detuvo los juicios de sus taxis sin conductor hace unos tres años, cuando uno mató a un peatón, para evaluar las implicaciones.

Tampoco podemos simplemente asumir que las respuestas a estas preguntas son las mismas en cualquier lugar del mundo, porque no son como las leyes de la física, que son idénticas en cualquier parte. La investigación publicada en Nature hace unos años mostró que estas decisiones éticas no son universales. Varían según las culturas. La encuesta, que utilizó Moral Machine del MIT, abarcó a 2,3 millones de personas en todo el mundo y realizó algunos descubrimientos interesantes. Las personas en países más prósperos tendrían menos probabilidades de salvar a un peatón imprudente que las de las regiones más pobres, por ejemplo. Todavía puede contribuir a Moral Machine y ver los escenarios que propone en su sitio web dedicado.

Las personas en países más prósperos tienen menos probabilidades de salvar a un peatón imprudente que las las regiones más pobres

Los desarrolladores de sistemas de conducción autónomos están teniendo en cuenta, al menos, las dimensiones éticas. Google es conocido por contratar personas para su equipo de desarrolladores de Waymo que agregan habilidades éticas a la mezcla. Sin embargo, es esencial que este problema se aborde antes de que la conducción autónoma se generalice. Los beneficios de hacerlo serían excelentes, porque la mayoría de los estudios confirman que los automóviles autónomos serán más seguros que los conductores humanos, ya que no se cansan ni se distraen con sus teléfonos. De hecho, existe una práctica herramienta de Rand Corporation donde puede calcular cuántas vidas se salvarán dependiendo de una variedad de parámetros. Incluso un escenario básico de vehículos autónomos que son solo un 10% más seguros que los conductores humanos salvaría cientos de miles de vidas en las próximas décadas a medida que se introdujeran los sistemas, y la mayoría de los teóricos consideran que los autos autónomos serán mucho más seguros que eso.

Sin ética, los coches autónomos aún serán controvertidos

En general, no debemos asumir que el problema de los vehículos autónomos es puramente técnico. Obviamente, la piedra angular es la capacidad de navegar con éxito por los trazados y las marcas de las carreteras, con la capacidad de variar con las condiciones como la velocidad del tráfico y el clima. Pero una vez que hayan alcanzado esa habilidad, que ahora parece muy cercana, las dimensiones éticas y morales pasarán a primer plano. Las habilidades éticas también deben integrarse en los automóviles autónomos y, hasta que lo sean, los vehículos autónomos serán controvertidos. Pero es un problema que vale la pena resolver, porque la seguridad y la eficiencia de conducción serán excelentes a medida que nuestras carreteras se llenen cada vez más de gente.

**Artículo escrito por James Morris y publicado originalmente en Forbes.com

Avatar
La redacción de HACKERCAR la componen periodistas que trabajan en colaboración con expertos en tecnología y ciberseguridad. Hablamos de vehículos, de movilidad, de consejos... y también nos gusta el formato audiovisual. ¿Tienes algún tema que te gustaría que tratásemos o investigásemos? Escríbenos a redaccion@hackercar.com

DEJA UNA RESPUESTA

¡Por favor, escribe tu comentario!
Por favor, introduce tu nombre aquí

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.