La caixa negra ets tu.




“Cambiar algoritmos es más fácil que cambiar personas: el software de los ordenadores puede actualizarse; el entramado de nuestros cerebros ha demostrado ser mucho menos dúctil”, señala el investigador Sendhil Mullainathan en una columna que firma recientemente en The New York Times.

Empecemos por el final, revolución tecnológica mediante, con el trabajo más reciente del profesor de la Universidad de Chicago. En este estudio, Mullainathan evaluó el rendimiento de un sistema de evaluación diseñado para determinar el nivel de enfermedad y asignar los recursos correspondientes a cada caso. ¿Resultado? El número de pacientes de color seleccionados para recibir cuidados adicionales se veía reducido en más de un 50% con respecto a los pacientes blancos que tenían asignado idéntico nivel de riesgo.

La fuente de este desequilibrio, explica el profesor, está en los datos empleados para medir ese nivel de enfermedad: el gasto en cuidados sanitarios. “Como la sociedad gasta menos en los pacientes de color que en los blancos, el algoritmo infravaloró las necesidades reales de los pacientes negros”. Según las estimaciones de los autores de la investigación, este sesgo podría haber afectado a unos 100 millones de personas solo en Estados Unidos.

Para el algoritmo, ya existe un prototipo de herramienta que tendría que neutralizar el sesgo detectado en el sistema. En el caso de los humanos, el cambio lleva más tiempo. "Nada de esto busca menospreciar los obstáculos y medidas necesarias para corregir el sesgo algorítmico, pero comparado con la intransigencia del sesgo humano, sí parece bastante más sencillo".

Montse Hidalgo Pérez, Los algoritmos tendenciosos tienen arreglo (tú no), Retina. El País 03/01/2020

Comentaris

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Gonçal, un cafè sisplau

"¡¡¡Tilonorrinco!!! ¡¡¡Espiditrompa!!!"