El soroll explica els errors de les avaluacions humanes.
El acto de juzgar, evaluar o emitir un dictamen es difícil tanto en el derecho como en la medicina, la enseñanza, el peritaje o la selección de personal. ¿Somos mejores que las máquinas cuando existen variaciones notables entre evaluadores de un mismo caso o, peor aún, en nuestras propias valoraciones, según nuestro estado de ánimo? ¿Puede un humano ser justo al evaluar si su decisión cambia dependiendo de la hora del día, de si ha ganado su equipo, o de si ha comido o dormido bien la noche anterior? ¿Cómo explicar esta dispersión en los juicios humanos? Se trata del ruido.
El ruido nos debería importar al menos lo mismo que el sesgo. No obstante, el estudio del ruido ha recibido mucha menos atención que el sesgo en la literatura. Daniel Kahneman, Olivier Sibony y Cass R. Sunstein nos alertan en Ruido de su omnipresencia en la toma de decisiones. El subtítulo que han escogido para la obra no podía ser más esclarecedor: Un fallo en el juicio humano. Los autores sentencian casi nada más empezar: «Dondequiera que haya juicio, hay ruido (y más del que se piensa)».
Los autores plantean algunas formas generales de reducción del ruido en los sistemas de evaluación, como son la introducción de normas claras o fomentar la participación de más de un experto. Pero la reducción del ruido puede tener un coste elevado respecto a sus beneficios potenciales, como muestra el uso de algoritmos: aunque estos puedan resultar atractivos para eliminar el ruido, generan sesgos y pueden discriminar a grupos desfavorecidos, mujeres o etnias concretas. Es algo de lo que ya avisó Cathy O'Neil en Armas de destrucción matemática, un ensayo que profundizaba más en las consecuencias sociales del uso masivo de los macrodatos (big data) y la inteligencia artificial.
Por eso, en Ruido se aboga por la optimización. Se nota que hay economistas detrás muy duchos en realizar balances de coste-beneficio. Más allá de una fe ciega en los algoritmos, hay que exigir transparencia a los modelos utilizados en ellos, conocer con qué bases de datos se entrenan y enfocar su uso como ayuda a la toma de decisiones, siempre bajo la supervisión (y responsabilidad) de expertos, nunca como sustitutivos del humano.
Pero abandonemos por un momento a las máquinas y volvamos a los humanos. En Ruido se cuestiona la apariencia justa de algunas reglas socialmente aceptadas, reductoras del ruido. Por ejemplo, para el acceso universitario, se establece una nota de corte, resultado de las ponderaciones de las notas de bachillerato y de las pruebas de acceso a la universidad. Parece una norma sencilla y efectiva. No hay quejas: quien más estudia tendrá mejores notas y merecerá la plaza. Meritocracia. Ahora bien, las calificaciones dependen del entorno familiar. Los ricos siempre pueden pagar unas clases de refuerzo para ayudar a sus hijos, mientras quizás otro alumno debió ponerse a trabajar para pagarse la carrera, pudiendo dedicar menos horas al estudio. Las estadísticas sobre la procedencia social del alumnado universitario no dejan lugar a dudas. Pero ante la abigarrada casuística y el planteamiento de valorar para el acceso universitario otros aspectos que influyen en el rendimiento académico (ingresos de los padres, situación laboral, etcétera), la sociedad se rinde a soluciones simples y fáciles de entender. Aunque generen sesgos. También es verdad que es más fácil buscar la trampa en sistemas complejos de reglas, si bien para muchos las reglas actuales ya son una trampa. Ruido desnuda una realidad legal llena de fallos.
Mejorar el juicio humano pasa por (re)conocer los propios sesgos, pero también nuestro ruido. Implica saber ayudarnos de las máquinas cuando realizan tareas mejor que nosotros, pero, por dignidad, subrayan los autores, un humano debe dar la cara ante decisiones que afectan a la vida de sus congéneres
Antoni Hernández-Fernández, Más allá del sesgo, el ruido, Mente y Cerebro, mayo/junio 2022
Comentaris