Llenguatge i simplificació.
Nietzsche afirma que nuestro lenguaje es una clasificación del mundo según universales: una hoja nunca es idéntica a otra, pero la palabra “hoja” lo hace suponer. Borramos las diferencias de los particulares en aras de la comunicación y de la salvaguarda de la humanidad. No teniendo garras como los leones, ni colmillos como los lobos, nuestro lenguaje hecho de universales es una guía para caminar por el mundo disminuyendo los riesgos. Es verdad que esta serpiente no es la misma que aquella otra que le picó a mi compañero, pero llamarla también “serpiente” alerta del posible peligro de pisarla.
El problema se plantea cuando se quiere configurar un modelo no de un tipo de acción concreta sino de un modo de ser. Porque en este caso se está eligiendo la simplificación. Y simplificar qué es una serpiente venenosa no reviste la gravedad de lo que es simplificar la esencia de un ser humano. El universal “serpiente” encierra menos errores que el universal “ser humano”, “hombre”, “mujer”, “negro”, “musulmán”, “homosexual”, etc. Una persona racista ha elaborado un modelo estadístico simplificado a partir del cual establecer un universal y poder clasificar a un individuo dentro de una tipología.
Detrás de la pretensión de establecer verdades acerca de los seres humanos a partir del análisis y la cuantificación de sus comportamientos, hay una toma de partido por una idea de la humanidad. Quizá los matemáticos no lo saben, o no tienen tiempo para saberlo. Pero algunos han creído posible establecer certezas acerca de nuestros deseos, de nuestra formación, de nuestra eficacia, de nuestra solvencia, de nuestra ideología, porque han simplificado los patrones algorítmicos para medirnos. Han creado modelos de comportamientos con los que leer la sociedad y proceder de forma más exacta (quizá también piensen que más justa) para establecer lo que consumiremos, la idoneidad de nuestros currículos para un puesto de trabajo, la profesionalidad de nuestro modo de hacer, la capacidad económica de nuestras finanzas, la previsibilidad de lo que votaremos. Estos matemáticos son los que han forjado lo que Cathy O'Neil llama “armas de destrucción matemática”.
Está claro que las personas particulares juzgan según sus ideologías y cometen errores, está claro que hay injusticias en los procesos de selección y clasificación (y eso las mujeres lo sabemos mejor que nadie), está claro que es bueno caminar hacia un sistema más objetivo, más justo. Pero si los datos con los que un algoritmo opera son irrelevantes, se puede suponer que son fruto igualmente de la ideología de quien lo diseñó. Ahora bien, en este caso su alcance es mucho mayor que el de un error o injusticia particular.
Maite Larrauri, Para leer el mundo. ¿Matemáticas como arma o como instrumento?, fronterad 21/11/2018
Comentaris