La moral del cotxe autònom.






“Estás en un Waymo, un coche totalmente autónomo. Viajas a la velocidad límite, un rápido pero razonable 45 km/h por una carretera suburbana, y llegas a un puente en mal estado, sin arcén ni barandillas. De repente, como suele ocurrir en los experimentos mentales, un grupo de cinco niñas exploradoras comienza a cruzar el puente. Sin tiempo suficiente para frenar, tu Waymo probablemente matará a las cinco niñas si no gira. Si gira, enfrentas una muerte casi segura al caer en un barranco profundo.” 

Resulta que las personas tenemos un sesgo de omisión, es decir, preferimos tomar la opción de no hacer que la de hacer. La gente considera más incorrecto provocar una consecuencia si se hace mediante la acción que si se hace mediante la inacción. Esto se había visto en estudios previos. 

Lo novedoso es que en un estudio reciente se ha visto que las IAs tienen un sesgo de omisión mucho más marcado que los humanos, eligiendo opciones utilitarias (menor daño total) en un 97% cuando implican no actuar, pero solo en un 53% cuando requieren acción activa. 

Aplicado esto al dilema del puente, si la acción salva a las niñas, dado el sesgo, la IA solo elegiría esto un 53% de las veces, lo que significa que hay un 47% de probabilidad de que no gire y atropelle a las niñas. 

Por cierto, Kurzban explica que los humanos perciben las acciones (comisiones) como más graves que las omisiones, porque actuar implica una responsabilidad directa que puede ser juzgada o penalizada por otros. Es decir, nos ayuda a evitar un castigo:"Si no hago nada, nadie me puede culpar tanto como si meto la pata actuando".

Pablo Malo:
Este artículo de Kurzban es importante para la moral de los vehículos autónomos del futuro.


Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

La ciència del mal (Simon Baron-Cohen).

Imatge
by Jonathon Rosen La tragedia del avión estrellado de Germanwings nos sacudió a todos la mañana del martes 24 de marzo de 2015. Pero más impactante aún fue conocer que se trataba de un acto deliberado. Un joven piloto alemán decidió acabar con su vida junto con la de 150 personas más. Inmediatamente se abría un debate sobre la seguridad y el tipo de controles psicológicos que se realizan a los pilotos, ¿son estos suficientes y adecuados?, ¿podemos anticipar actos de este tipo? Son preguntas con respuestas nada fáciles de aventurar. Al margen de su cuadro depresivo, se trata de uno de esos casos extraños en los que una persona aparentemente normal sorprende al mundo con un acto de extrema maldad. Nadie de su entorno lo habría imaginado. Pertenece a ese grupo de individuos para los cuales la psiquiatría actual no puede englobar dentro de ningún desorden específico, a menos que incluyamos uno nuevo en nuestro manual de diagnóstico: la maldad entendida como falta extrema de em...
Més informació