Servitud digital voluntària.
Quienes defienden que los sistemas de recomendación no contradicen necesariamente nuestra libertad suelen apelar al consentimiento individual, pero esa estrategia no se hace cargo del modo como las técnicas algorítmicas ejercen una influencia sobre la conducta a través de la personalización del entorno informativo. Este planteamiento no tiene en cuenta que la omisión selectiva de información relevante puede ser engañosa, pero imposible de ser detectada por los usuarios, cuya soberanía sería, por tanto, ficticia. Argumentan que esto no plantea ningún problema para nuestra libertad individual, ya que hemos dado nuestro consentimiento, pero habría que preguntarse si ese consentimiento se parece más a la satisfacción del deseo de un adicto que al ideal de un yo autónomo. Del mismo modo que, en las adicciones, nuestros deseos de corto término acaban perjudicando nuestro bienestar a largo plazo, la despreocupación por un consentimiento de baja calidad puede erosionar nuestra libertad.
Conocemos bien que la ampliación de opciones no equivale necesariamente a una ampliación de nuestra libertad. La crítica al consumismo lo desveló hace ya tiempo. El capitalismo es un sistema no solo de satisfacción, sino de creación de necesidades. En la medida en que las preferencias son endógenas (configuradas por los sistemas que aseguran únicamente responder a ellas), la satisfacción de preferencias no puede servir como un criterio normativo independiente. Cuando los algoritmos que se presentan como la respuesta a nuestros deseos están en realidad sintonizados para optimizar (y por lo tanto monetizar) nuestro compromiso con la plataforma, entonces el patrón de consumo resultante es cualquier cosa menos un acto de libertad.
La inteligencia artificial no resultaría problemática si fuera un instrumento auxiliar para determinadas tareas: buscar datos, traducir textos, facilitar compras, es decir, mientras solo se interviene como un instrumento. Las cosas son distintas cuando no solo ayuda, sino que preselecciona lo que considera relevante, cuando contribuye a conformar una metaestructura que preconfigura el espacio sociotécnico de las posibles decisiones. Entonces deja de ser un instrumento y se convierte en una infraestructura que orienta en determinadas direcciones. Esa es su gran prestación y lo que la convierte en una realidad preocupante.
El filósofo La Boétie lo habría calificado hoy de “servidumbre digital voluntaria”. Para privarnos de libertad no es necesario arrebatárnosla violentamente o manipularnos; basta con que el marco que otros han predeterminado nos parezca resultado de nuestra propia decisión.
Comentaris