El uso de automóviles manejados automáticamente por software y no por un ser humano.
Ejemplos
- robo-taxis: automóviles autónomos pertenecientes a una empresa privada para transportar gente en contextos urbanos
- automóviles autónomos controlados por una persona desde fuera del vehículo para misiones humanitarias, operaciones militares o transporte de personas o mercaderías en terrenos extremos
- ejemplos y temas relacionados con robots en el transporte se analizan en (COMEST, 2017).
Beneficios
- evitar accidentes originados por fatiga o distracción de un conductor humano
- contribuir a mejorar el orden del tráfico
- permitir la movilidad independiente de personas con discapacidad
Amenazas relacionadas con la mala utilización y el uso abusivo
Definición de responsabilidad por accidentes – Los automóviles autónomos, como los que manejan las personas, pueden chocar con otro automóvil, un peatón o un ciclista. ¿De quién es la responsabilidad? ¿Es responsabilidad del propietario del auto, del desarrollador del software, del fabricante, de todos ellos?
Toma de decisiones para situaciones imprevistas – Puede suceder que el automóvil se enfrente a varias situaciones imprevistas al manejar en forma autónoma. Por ejemplo, otro automóvil que cruza la calle con el semáforo en rojo, un peatón que cruza la calle cuando el semáforo permite el paso de los autos, la necesidad de evitar un bache en la calle, un auto que no se mantiene en su carril, la necesidad de detener el auto inmediatamente mientras que está circulando a velocidad y sin la necesaria distancia para hacerlo y otros. ¿Cuáles pueden ser consideradas decisiones correctas? ¿Cómo tomarán los automóviles decisiones correctas?
Jaqueo del software – Un automóvil autónomo es un sistema de software y hardware que puede ser jaqueado. ¿Cómo podemos evitar el jaqueo del software? ¿Cómo puede atribuirse responsabilidad por el jaqueo del software?
Violación de la privacidad del conductor y el pasajero – Un automóvil autónomo tiene sensores, hardware y software que permiten al automóvil manejar automáticamente. Sin embargo, se pueden implementar otras funcionalidades sin que los usuarios del auto tengan conciencia de este hecho. ¿Es el software del auto abierto para facilitar la auditoría de la funcionalidad implementada? ¿Se están registrando los movimientos del auto? ¿Se están registrando datos sobre los pasajeros del automóvil? ¿Se está monitoreando el comportamiento de los pasajeros dentro del auto? ¿Quién lo hace?
Restricción de áreas de circulación: Debido al uso de sistemas georeferenciales, el automóvil podría decidir automáticamente el recorrido para viajar desde un lugar al otro. ¿Cuáles serán los criterios para decidir cómo moverse de un lugar a otro? ¿Puede una persona forzar el algoritmo para ir o dejar de ir a través de cierta área? Si la decisión se realiza automáticamente basándose en el recorrido más corto, o más seguro, u otros criterios, ¿existe la posibilidad de discriminar barrios o ubicaciones específicas? ¿hay una diferencia entre decisiones personales de no circular por un área, comparado con la decisión realizada por un algoritmo? ¿puede el algoritmo tener un sesgo predeterminado para seleccionar determinados recorridos? ¿quién se está beneficiando y quién está padeciendo dicho sesgo predeterminado?
Aspectos culturales diversos para automatizar la toma de decisiones – Un estudio realizado por el Instituto de Tecnología de Massachusetts (MIT) recogió respuestas de 40 millones de personas en 233 países sobre qué debería hacer un automóvil autónomo cuando se enfrenta a un dilema moral. Reveló que el origen sociocultural tiene una gran influencia en la opinión. A partir del análisis de las respuestas recogidas, los investigadores han descubierto que las preferencias de las personas difieren ampliamente dependiendo del país, pero que tienen una alta correlación con la cultura y la economía. El estudio define efectos interesantes para los países que actualmente realizan pruebas con automóviles autónomos, ya que estas preferencias podrían influenciar la configuración del diseño y la regulación de dichos vehículos. Los fabricantes de automóviles deben saber, por ejemplo, que los consumidores chinos preferirían un vehículo que proteja al ocupante en vez de al peatón. Por lo tanto, el diseño del algoritmo incluye aspectos éticos y morales. ¿Dependen las decisiones que se toman para resolver un dilema moral (p.ej. chocar a un peatón en vez de a otro auto) de la cultura local? Si es así, ¿cómo implementan los fabricantes de automóviles diferentes algoritmos de toma de decisiones basados en culturas?
Desafíos éticos
La siguiente tabla sintetiza los desafíos éticos asociados al uso de los automóviles autónomos.
| ID | DESAFÍO | RELACIONADO CON * |
| C1 | Decidir la persona/entidad responsable por accidentes causados por automóviles autónomos | Principio P Principio A (apertura) |
| C2 | Asegurar que el algoritmo de conducción tomará la decisión correcta cuando un automóvil autónomo se enfrente a una situación imprevista | Principio A (apertura) |
| C3 | Evitar el jaqueo con intenciones maliciosas del software de automóviles autónomos | Principio P |
| C4 | Asegurar que los diferentes dispositivos electrónicos que se usan en un automóvil autónomo protegen la privacidad del conductor del pasajero i.e. no graban datos sobre ellos sin su autorización | Principio D Principio P |
| C5 | Asegurar la transparencia y la ausencia de sesgo cuando se deciden automáticamente los recorridos que seguirá el automóvil autónomo | Principio A Principio A |
| C6 | Asegurar adhesión a diversos principios culturales en algoritmos de conducción automatizados | Principio A (apertura) |
* Ver Principios para leer más acerca de los principios.