Compatibilitat entre IA i democràcia.
La multiplicación de sistemas automáticos en nuestras sociedades plantea un doble interrogante: si gracias a ellos decidimos mejor y si, en última instancia, decidimos nosotros mismos. El clásico dilema de las sociedades democráticas que enfrenta efectividad y participación, derecho a resultados y derecho a decidir, se plantea ahora en un nuevo paisaje decisional automatizado, reabriendo así la inquietante cuestión de si es posible entonces seguir manteniendo el principio democrático del libre autogobierno de las sociedades.
Nos encontramos en “una esfera pública automatizada” (Pasquale). Con la idea de mejorar la eficiencia o ahorrar costes, estos sistemas de decisión automatizados ayudan e incluso reemplazan a los tradicionales procedimientos de decisión. Las decisiones, que solían ser el resultado de un proceso de reflexión personal y deliberación colectiva, son ahora llevadas a cabo automáticamente. Los algoritmos determinan la concesión de un crédito, el precio de los billetes de avión, la medicación más adecuada, el tráfico urbano y la identificación de un potencial terrorista.
La tendencia general a un pilotaje automatizado de los asuntos humanos no es sólo un aumento cuantitativo de los instrumentos que tenemos a nuestra disposición sino una transformación cualitativa de nuestro ser en el mundo, un mundo en cuyo centro ya no nos encontramos. Este nuevo paisaje tecnopolítico es muy importante para el ser humano y al mismo tiempo está despoblado de humanos, lleno de lugares y procedimientos a los que le está prohibido el paso y la presencia. Sin que esto tenga una connotación necesariamente negativa, se trata de un mundo des-humanizado , como pone de manifiesto el hecho de que las arquitecturas más significativas del mundo carecen de personas: las puertas automatizadas, los campos agrícolas robotizados, las redes de comunicación autónomas, las estaciones orbitales extraterrestres son lugares llenos de mecanismos automáticos y desiertos de humanos.
Este panorama desata los calificativos más variados; puede ser celebrado como el triunfo de la comodidad y la exactitud, la victoria definitiva sobre los prejuicios o el final de la arbitrariedad, pero hay quien lo lamenta como una periferización de los humanos en un mundo en el que hubieran dejado ya de decidir. Como suele ocurrir cuando estamos ante una innovación tecnológica de resultados inciertos, utopías y distopías hacen su aparición con la misma rotundidad.
Ahora bien, contra el discurso de resistencia que se opone a la automatización en nombre de la voluntad de disponer de un control integral sobre las cosas, hay que señalar que la especie humana ha impulsado la automatización en nombre precisamente de ese control, aunque realizado así de un modo indirecto. Automatizar es una operación que se lleva a cabo en principio para aumentar el poder humano. Otra cosa es que pueda tener consecuencias no pretendidas, especialmente si se hace mal, si se omite la reflexión colectiva acerca de sus efectos beneficiosos y perjudiciales o si no se diseña adecuadamente su gobernanza. No podemos tener un control sobre todos los procesos automáticos salvo que dejen de serlo, pero debemos diseñar el marco y los valores en los que tales procesos se van a desarrollar, de manera que podamos seguir considerando esos procesos como un cierto resultado de nuestra voluntad. En tanto que seres sociales y animales políticos, esta voluntad debe configurarse en el seno de una conversación democrática. La cuestión inquietante sería hasta qué punto los beneficios de la automatización nos permiten considerar que los sistemas inteligentes siguen guardando algún tipo de relación con la lógica de la decisión humana. ¿Cómo tomar las mejores decisiones y asegurarnos de que no son nuestras últimas decisiones?
Daniel Innerarity, El factor humano en la IA, La Vanguardia 24/01/2020
Comentaris