El perill del sonambulisme tecnològic.

Langdon Winner

Toda la tecnología –y tal vez más la digital– provoca en nosotros respuestas reflejas, más que reflexividad. La tecnología funciona sin exigirnos –e incluso sin permitirnos– adoptar una relación explícita con ella. Esta característica es particularmente intensa en el caso de las tecnologías digitales, que pronto se revisten de un aura de neutralidad, se convierten en algo inadvertido, privilegian el automatismo, lo tácito frente a lo explícito. Las tecnologías en general y el ubiquitous computing en particular se integran en el tejido social hasta hacerse indistinguibles de él, generan un “inconsciente digital”. Son variaciones de la célebre idea de Langdon Winner del “sonambulismo tecnológico”, es decir, de la falta de conciencia sobre el desarrollo tecnológico y sus consecuencias, indiscutido, funcional y neutro.

No es que las decisiones clave sean delegadas en máquinas en las que no hay ningún humano; se trata más bien de que somos presionados a tomar decisiones de tal manera que no nos preguntamos quién es su verdadero autor. Los sistemas automatizados nos empujan a la irreflexividad en el sentido descrito por Hannah Arendt: la incapacidad de criticar las instrucciones, la falta de reflexión sobre las consecuencias, la disposición a creer que las órdenes son correctas. La ideología de la razón algorítmica no es tanto ocultación deliberada como irreflexividad. Su naturalización consiste en dejar de preguntarnos acerca de a qué clase de racionalidad responde la racionalidad algorítmica, pensar que no hay racionalidad alternativa o, al menos, una diversidad de posibilidades acerca de qué hacer con esa racionalidad.

La gobernanza algorítmica parece legitimarse porque no impone sino que complace, pero de este modo se corre el riesgo de que estemos tan satisfechos que dejemos de preocuparnos por las condiciones en que se ha producido esa satisfacción. Los algoritmos así entronizados tienen un efecto despolitizador. La lógica algorítmica despolitiza en la medida en que neutraliza el posible cuestionamiento del automatismo que procura nuestra satisfacción. Sus ventajas en términos de satisfacción de las necesidades individuales podrían ser tan embaucadoras que ni siquiera se plantee una alternativa a ese tipo de gobernanza, a sus fines y procedimientos. Un sistema de decisión de este estilo no parece compatible con el cuestionamiento permanente y la politización que caracterizan a una sociedad democrática en la medida en que dificulta o impide el escrutinio crítico de los modelos empleados y la información subyacente.

La democracia no es un sistema de satisfacción de necesidades sino un sistema de reflexión colectiva sobre esas necesidades. Los seres humanos no solo expresan y persiguen deseos, sino que también disponen de la capacidad de juzgarlos, de modo que unos nos parecen más deseables que otros. La reflexividad introduce una distancia respecto de nosotros mismos, al menos respecto de lo que espontáneamente creemos preferir (o nos recomiendan como nuestra preferencia) y en este sentido la convivencia democrática no descansa sobre individuos soberanos sino sobre interlocutores que discuten acerca de lo común.

La reflexividad es lo que hace posible la deliberación democrática, es decir, aquella forma de interacción que no es solo una negociación de nuestras preferencias e intereses, sino que permite incluso su revisión y ponderación reflexiva. La democracia no es tanto que se tenga en cuenta nuestra opinión o se satisfaga nuestro interés como que dispongamos de un espacio público en el que configurar nuestra opinión e identificar nuestros intereses teniendo en cuenta los de los demás.

Daniel Innerarity, La gente en la inteligencia artificial (II), La Vanguardia 07/03/2026