dissabte, 9 de juliol de 2016

La llibertat creada per un algoritme.

Ilustración: Setanta.
by Setanta

Los lunes por la mañana, los usuarios de Spotify reciben una lista de canciones personalizada que les permite descubrir nueva música. De igual modo que los sistemas de recomendación de Amazon, Google, eBay o Facebook, este cerebro artificial logra trazar un retrato robot del gusto de sus suscriptores y construye una máquina de prescribir que no suele fallar. El sistema se basa en un algoritmo cuya evolución y usos aplicados al consumo cultural son infinitos. De hecho, plataformas de streaming cinematográfico como Netflix empiezan a diseñar sus series de éxito como House of Cards rastreando en el big data que generan todos los movimientos de sus usuarios para analizar lo que les satisface. El algoritmo construye así un universo cultural ajustado y complaciente con el gusto del consumidor, que puede avanzar hasta llegar siempre a lugares reconocibles. Pero ¿qué sucedería si la vida nos diese siempre lo que nos gusta y nos rodease solamente de aquella gente que nos hace sentir bien?

De algún modo, Internet y las plataformas de streaming cultural han alumbrado un universo parecido al que describía Borges en La biblioteca de Babel, donde podríamos encontrar casi todas las obras existentes. Siguiendo los patrones tradicionales, solo deberíamos en este nuevo mundo saber lo que queremos e introducirlo en el buscador. “Pero en el caso de la música puede asustar. Es un mapa incompleto de lo que está disponible”, explicaba en la última edición de Sónar +D Ajay Kalia, responsable del departamento de trazar el perfil del gusto del usuario de Spotify. “Así que pensamos que quizá podíamos interpretar ese mapa de la música para el usuario y lo primero que descubrimos es que no existe una forma única de hacerlo. Es algo muy personal, cada uno tiene el suyo. Y muchas veces son islas inconexas. Así que lo que podemos hacer es trazar unas líneas entre ellas para que tengan sentido para ti”, explicaba en relación con la construcción del taste profile.

Su sistema de recomendación —quizá el más avanzado del mercado— se basa en nuestras búsquedas, a qué géneros las asociamos, qué significa para nosotros jazz o soul o a qué horas y días del año le damos al play a determinadas obras. El resultado es tan dispar que en ocasiones es imposible que un algoritmo relacione a Don Cherry y Ornette Coleman (nuestros héroes musicales) con La Chatunga de Luis Aguilé (la arrebatada selección de nuestra suegra en la verbena de San Juan). La mayoría de sistemas simplemente omiten entonces ese elemento discordante y empiezan a cerrar el círculo del gusto en torno a lo más obvio —aquello de “si le ha gustado x le gustará y”— o a lo más solicitado —en caso de recurrir a búsquedas similares de otros usuarios—. Spotify ha logrado establecer un círculo que incluye esa canción disonante y que esboza cómo, poco a poco, la inteligencia artificial podrá superar al código y ser capaz de aprender por sí misma.

Como estableció Pierre Bourdieu en 1979 en La distinción (Taurus, 2012), el gusto ha sido durante años el gran elemento de diferenciación social. Según su teoría, ese elemento nos permite juzgar a los demás y, a la vez, ser juzgados. Nos da la posibilidad de distinguirnos, clasificarnos e, inevitablemente, que nos clasifiquen también. Nos coloca una etiqueta, incluso dentro de un mismo círculo: no pensaremos lo mismo de alguien que sale de un concierto de la Cuarta sinfonía de Shostakóvich que de otro que entra en un auditorio donde se interprete El Danubio azul, de Strauss. Lo mismo que de un fan de Enrique Iglesias y otro de Neil Young. Una reducción, en suma, similar a la que hace el algoritmo para reconocernos: prejuzgar una identidad ­—en este caso, social y económica— basándose en determinados elementos culturales que lleva asociados y que nos diferencian de forma sistemática para, de nuevo, asignarle más capas de distinción.

Sin embargo, construir una identidad a través de los hábitos culturales y de la investigación cotidiana, obviamente, permitía exhibir un brillo que poco tiene que ver con el que es capaz de otorgar una máquina. El algoritmo, sostienen sus críticos, nos hace aburridos, previsibles, y empobrece nuestra curiosidad por explorar el acervo cultural. Ramón Sangüesa, coordinador del Data Transparency Lab, ha trabajado dos décadas alrededor del machine learning y la inteligencia artificial vinculado al MIT. Puede ver sus ventajas, pero también los riesgos. “Estos sistemas se basan en el pasado para predecir el futuro. La primera dificultad es conseguir la masa crítica para que tengamos más datos y las proyecciones sean mejores. Pero además corren el riesgo de quedarse en una misma área de recomendación. En el consumo cultural, el peligro está en la uniformización del gusto, lo que llamamos el filtro burbuja. Y así se van creando comportamientos más estándares”, señala. Este fenómeno —descrito en el libro El filtro burbuja, lo que esconde Internet por el fundador de Upworthy Eli Pariser— se reproduce en redes sociales como Facebook, donde el usuario se ve aislado en un entorno de información que el algoritmo deduce que querríamos ver basándose en nuestros círcu­los de amistad y en el feedback de búsquedas anteriores.
by Setanta
Justamente, el estudio catalán Domestic Data Streamers presentó también en Sónar +D un proyecto titulado Time Keeper basado en sortear el yugo del pasado y tratar de dilucidar lo que apreciaremos en el futuro. “Hasta ahora el algoritmo sabe lo que haces, lo que te gusta. Pero no por qué. Con este proyecto generamos un escenario donde hay una conversación mayor entre la persona y la máquina”, señala Dani Llugany, director creativo de la empresa. La evolución de este algoritmo consiste en analizar el perfil de Spotify de cada usuario que participa y luego añadirle un test psicológico para obtener información personal. Por último, se le pide a cada persona que defina un momento que le gustaría vivir en el futuro con una fecha concreta: ese día el usuario recibirá la canción perfecta para esa circunstancia prevista. “Estamos acostumbrados a que una canción puede transportarnos al pasado. Esto es lo contrario, buscar una vinculación entre la música y el futuro”, remarca Llugany.

La personalización de la oferta podría cristalizar también en nuevos géneros musicales o literarios. Amazon, el gigante de Internet, anunció hace un año que pagará a los autores independientes en función del número de páginas que los lectores consuman de sus obras. Si el libro no funciona, no cobran. Si funciona a medias, cobran a medias. Algo parecido sucede en el mundo audiovisual, donde Netflix analiza 30 millones de visionados al día para conocer los gustos de sus suscriptores: incluido cuando usted rebobina, adelanta la imagen o la deja suspendida en pause. Todos esos movimientos, también cuestiones de trama o tono narrativo, se monitorizan y sirven para tomar decisiones de producción en series como House of Cards e incluso para personalizar sus tráileres en función del perfil de sus espectadores.

La cuestión, sin embargo, es si los límites impuestos en el aprendizaje por los sistemas cerrados de computación son equiparables a los errores y posibles estupideces que hemos cometido durante años formando nuestro propio gusto. Eloy Fernández Porta, autor de Emociónese así (Anagrama, premio Ciutat de Barcelona), no ve gran diferencia. Según el escritor, antes de Spotify y fuera de él el gusto ya venía determinado por criterios de accesibilidad, aceptabilidad, actualidad y distinción. “Siempre hemos vivido la música en un algoritmo, lo que pasa es que en vez de llamarlo ‘matemática’ lo llamamos ‘espontaneidad’. El algoritmo de Spotify no me parece menos fiable que la fórmula caótica que cada oyente ha ido inventando. Ni menos humana: cuando hace analogías erróneas o se empeña en recomendar el primer disco de Vincent Gallo, nos está jugando las mismas malas pasadas que nos juegan nuestras sinapsis”, señala.

Una posible diferencia, sin embargo, residiría en el principio de buena fe o la manipulación. Filtrar la información en redes como Facebook o en búsquedas a través de Google puede configurar nuestra manera de pensar. Y ese es el problema principal, señala la artista e investigadora en cuestiones de crítica tecnológica Joana Moll: la ilusión de libertad de elección que muchas veces generan los algoritmos. “Tú actúas en base a lo que te presentan, a lo que ves. Ese es tu mundo. Pero en realidad marcan un patrón de consumo que te llevará a determinados lugares. El algoritmo filtra una representación del mundo, y eso es aplicable a cualquier plataforma”, señala.

En cualquier caso, el otro gran interrogante que surge tiene que ver con la posible prostitución de la prescripción, algo que ya ha sucedido en el terreno humano —véase bloggers, instagramers y demás prescriptores patrocinados— y puede introducirse en los criterios del algoritmo de forma artificial. Si lo que nos recomienda la máquina sirve para vender determinados productos, ¿por qué no utilizarla para favorecer a algunos artistas/empresas/ideologías? Ramón Sangüesa se encuentra ahora mismo investigando sobre las herramientas que permiten saber por qué a cada uno nos recomiendan determinados caminos por los que seguir transitando. “Habrá criterios complementarios que pueden ir en beneficio de quien tiene la propiedad de esa obra, por supuesto. Y esos criterios son bastante oscuros. Esas empresas saben todo de mí, pero yo no sé con qué criterios me recomiendan las cosas”. Y ahí, en parte, está la gracia del dichoso algoritmo.

Daniel Verdú, El gusto en la era del algoritmo, Babelia. El País 08/07/2016