Automatizació i democràcia (Daniel Innerarity)

Si la democracia es cratos del demos, no está muy claro hasta qué punto es democrático delegar en la tecnología nuestras decisiones. Todas las tecnologías han tenido como consecuencia una cierta periferización de los humanos del ámbito de las decisiones, pero ninguna había sido tan disruptiva como la inteligencia artificial, ninguna nos había hecho tan prescindibles, tan reemplazables.

La tendencia general hacia un pilotaje automatizado de los asuntos humanos no es solo un aumento cuantitativo de los instrumentos que tenemos a nuestra disposición, sino una transformación cualitativa de nuestro ser en el mundo, un mundo en cuyo centro ya no nos encontramos. Este nuevo paisaje tecnopolítico es muy importante para el ser humano y al mismo tiempo está despoblado de humanos, lleno de lugares y procedimientos a los que les está prohibido el paso y la presencia. Sin que esto tenga una connotación necesariamente negativa, se trata de un mundo deshumanizado, como pone de manifiesto que las arquitecturas más significativas del mundo carecen de personas: las puertas automatizadas, los ascensores sin ujier, los campos agrícolas robotizados, las redes de comunicación autónomas, las estaciones orbitales extraterrestres son lugares desiertos de humanos.

El horizonte parece ser un bucle sin humanos, nuestro gran remplazamiento por las máquinas, algoritmos que deciden por nosotros. Todo esto nos libra de trabajos pesados, puramente mecánicos, pero quizás no sea más que el comienzo de un gigantesco desahucio, de un mundo que funcionaría sin nosotros, vaciado de toda voluntad humana. Con la automatización podríamos estar programando nuestra propia obsolescencia. Marvin Minsky afirmaba que deberíamos considerarnos unos afortunados si en el futuro las máquinas inteligentes nos tienen como animal de compañía. No faltan las apelaciones dramáticas a una futura obsolescencia del género humano.

Antes de pensar en los remedios ante esta amenaza, debemos saber si es real. Reclamamos que haya “humans in the loop” (como denominan los ingenieros al ciclo de acción, feedback y decisión que controla todas las decisiones del sistema en cada momento), pero tal vez los haya, más de lo que pudiera parecer. Para empezar, hay que reconocer la gran cantidad de trabajo humano inscrito en la misma automatización. El trabajo persiste: incluso los empleos que tienen un elevado riesgo de automatización tienen un conjunto importante de tareas y funciones difíciles de automatizar. Se está operando una nueva división global del trabajo digital por la que se forman cadenas de deslocalización que nos obligan a mirar la automatización de otro modo: no se sustituye a los trabajadores humanos por robots, sino por otros trabajadores humanos (ocultos, precarios y peor pagados). Frente a cierta retórica dominante, las plataformas no están animadas por usuarios benévolos, sino por proletarios del clic. Lo que tenemos es una “automatización alimentada por humanos”, unos “microtrabajadores” o “trabajadores fantasma” ocultos en las tecnologías que sostienen la inteligencia artificial y que llevan a cabo tareas digitales repetitivas. Como advierte Nick Seaver, si no puedes ver a un humano en el bucle, solo tienes que buscar un bucle más grande.

Por tanto, la cuestión no es cuántos humanos están en el loop sino cómo (Crawford). ¿Dónde y de qué modo deben estar los humanos para que haya el mejor ecosistema humanos-máquinas y se cumplan las promesas democráticas de autogobierno de los seres humanos? Debemos pensar y configurar la automatización sin reducir el asunto a “humanos versus máquinas” posibilitando que existan procedimientos de intervención humana en las diferentes fases de implementación de los procesos de automatización que, sin poner en peligro los beneficios de la automaticidad, permitan considerar este proceso como verdaderamente democrático.

Podemos pensar los procesos de automatización por analogía con el modo como hemos diseñado la democracia representativa de manera que, sin estar presentes completamente y en todos los momentos del gobierno, nos permitiera considerarnos como autores últimos de las decisiones colectivas.

Daniel Innerarity, La gente en la inteligencia artificial (I), La Vanguardia 31/01/2026