Algoritme i política
En una sociedad democrática la política no se reduce a la racionalidad administrativa. Ningún sofisticado dispositivo para calcular y decidir parece en condiciones de hacer superfluo el momento propiamente político en el que discutimos y decidimos los fines a cuyo servicio ponemos los instrumentos de gestión de que disponemos. La política es inevitable porque, aunque pueda ayudarnos, la inteligencia artificial no es capaz de concebir ni garantizar esa igualdad a la que aspira la democracia. Donde mejor se pone de manifiesto esta limitación es en el hecho de que la tecnología no disuelve las controversias debidas a nuestras diferentes concepciones de la igualdad ni garantiza la satisfacción simultánea de preferencias e intereses diversos.
Incluso allá donde hay un amplio acuerdo acerca de la conveniencia de promover la igualdad no necesariamente se comparte la misma idea de igualdad. Hay quien se da por satisfecho con que sean idénticas las condiciones de partida, mientras que otros la entienden como una similitud en los resultados; tenemos además todo el debate entre igualdad formal e igualdad diferenciada. ¿Cómo deben articularse categorías, grupos e individuos para hacer frente a las discriminaciones que proceden de la pertenencia a un determinado grupo y las que se deben a ser agrupado de esa manera? Son asuntos que deben ser objeto de discusión política y no de agregación algorítmica.
Si hubiera acuerdo acerca de qué significa igualdad entonces el algoritmo desarrollaría una tarea puramente técnica; se trataría nada más que de encontrar el mejor modo de operacionalizar esa idea de justicia. El problema es que la idea de justicia es un verdadero campo de batalla democrático, un concepto elevadamente controvertido en cualquier sociedad plural. Hay más desacuerdos acerca de los valores en sí mismos que sobre los medios de conseguirlos. Ningún dispositivo tecnológico puede ahorrarnos el trabajo de discusión democrática en torno a los fines, aunque pueda facilitarnos enormemente la tarea de implementación de los objetivos que democráticamente hemos decidido perseguir.
Daniel Innerarity, Igualdad algorítmica, El País 13/05/2022
Comentaris