Paternalisme algorítmic.
La IA puede fortalecer o debilitar nuestra libertad en función del uso y, sobre todo, si el ejercicio de nuestras actuaciones y decisiones, cuando están asistidas por los sistemas algorítmicos, viene acompañado del correspondiente enjuiciamiento propio.
Una de las propiedades del mundo actual que hace tan dificultoso decidir y elegir libremente (más allá de los impedimentos expresos) es ese tipo de complejidad inmanejable que procede de algo en teoría positivo como la multiplicación de las posibilidades de hacerlo. El mundo digital supone, de entrada, una ampliación de opciones. Ahora bien, el simple aumento de opciones no equivale a una mayor libertad e incluso puede conducir a experiencias de desmotivación, sobrecarga y desorientación.
Frente a ello, los sistemas algorítmicos ofrecen algo que podría entenderse como una reducción de opciones, una reducción de la complejidad que proporciona alivio y descarga, que facilita nuestras elecciones y parece plenamente compatible con nuestra libertad. Son los beneficios de la automatización, de las decisiones por defecto o los sistemas de recomendación. No reconocemos como una pérdida de libertad aquello que nos alivia.
Que se reduzca nuestro espacio decisorio no es experimentado negativamente si viene acompañado de una facilitación de nuestra elección. Puede ser que elegir sea una acción sobrevalorada y no tener que decidir sea vivido como una grata facilitación de la vida. Se trataría de una libertad frente al “peso de elegir” (Cohn), que en ocasiones puede resultar abrumador.
Los sistemas algorítmicos sirven para categorizar a los individuos y prever sus preferencias a partir de una gran cantidad de datos acerca de ellos. El modelo de negocio de muchas empresas digitales se apoya en el hecho de que nos conocen a los usuarios mejor que nosotros mismos y, en virtud de la previsión de nuestro comportamiento, nos ofrecen lo más adecuado en el momento oportuno. De este modo recibiríamos lo que supuestamente queremos, algo que corrige el hecho de que tantas veces no sepamos propiamente qué queremos.
Lo que así se nos ofrece no parece limitar o contravenir nuestra autodeterminación. El cómodo paternalismo de las sociedades algorítmicas consiste en que da a las personas lo que estas quieren, que gobierna con incentivos proporcionados, que se adelanta, invita y sugiere. Teniendo en cuenta que hay una discrepancia entre la autodeterminación que supuestamente exigimos y la que de hecho estamos dispuestos a ejercer cuando hay comodidades y prestaciones de por medio, el resultado es que la satisfacción de necesidades se hace con frecuencia a cambio de espacios de libertad.
Es cierto que así se satisfacen muchos de nuestros deseos, pero a cambio de una cierta renuncia a reflexionar sobre ellos; lo que queremos se sitúa por encima de lo que queremos querer y la voluntad mínima e implícita del consumidor sustituye a la voluntad política explícita.
Sentirse liberado porque elegir es más fácil, más rápido y más cómodo no significa que seamos más libres, puesto que podemos habernos despojado de alguna propiedad que pertenece a la naturaleza de la verdadera libertad. La libertad se debilita allí donde el ser humano confunde el alivio con la libertad. Para esta concepción minimalista, la libertad ya no significa asumir una decisión en lo más profundo de uno mismo, sino llegar, de la forma más fluida posible, a una respuesta que resulte aceptable.
Si tener más opciones no implica elegir con más libertad, tampoco elegimos necesariamente mejor porque un sistema haya ajustado las recomendaciones a lo que supone que responde mejor a nuestros gustos o conveniencias (generalmente a lo que así nos ha parecido en el pasado y no a lo que podríamos preferir en el futuro). ¿Cómo saber que esa reducción de opciones (recomendación, filtrado, predeterminación por defecto...) es significativa? ¿De qué nos descargan? Aunque solo fuera del exceso cuantitativo o eliminando el ruido superfluo, ¿conforme a qué criterios se realiza ese filtrado? ¿No nos estará descargando de nuestra capacidad y responsabilidad de realizar una ponderación propia?
Llegiu més en El algoritmo paternalista
Comentaris