Identitat i algoritmes.

Todo lo que hacemos se ha convertido en datos explotables, como explica muy bien Carissa Véliz en su libro Privacy is power: cuando te levantas y miras el teléfono las telefónicas o quien sea ya sabe algo de tus hábitos de sueño, con quién duermes (porque el otro teléfono también está localizado) y dónde duermes. A partir de entonces cada acto de tu vida produce datos que alguien explota a través de los poderosos algoritmos que tratan inmensas cantidades. Salvo que seas alguna persona particularmente interesante, al sistema no le interesas tú como persona, sino lo común de tu privacidad: los patrones y perfiles que son los objetos económicamente útiles.

Estos perfiles son los objetos convertidos en mercancías por los que compiten las empresas depredadoras de datos. Sin embargo, obsérvese que la información tiene algunas características particulares. Como todo lo que ocurre en el mundo, la información tiene una base material en la energía: la cámara que te observa capta frecuencias luminosas, las transforma en señales eléctricas que acaban en circuitos en los almacenes de la nube y son procesados por otros circuitos que almacenan programas o algoritmos. Pero, a diferencia de la energía que nunca desaparece sino que se transforma, la información sí desaparece. Al menos la información útil. La información es datos interpretados por los procesadores algorítmicos que crean a su vez patrones. Pero este proceso es increíblemente frágil: los datos pueden estar corruptos en el sentido de que produzcan información incorrecta, pero, sobre todo, los procesadores de información, por el momento, solamente son sensibles a los datos inmediatos y actuales,  no a lo que puede cambiar: observan patrones que dependen de lo que hacemos y de lo que hemos hecho. Por ejemplo, las recomendaciones de Amazon, Spotify o de Google, dependen de perfiles que tienen dos bases: tus últimos consumos y tu historia de consumo. Esta base es sumamente frágil porque como todos sabemos, depende de muchos factores contingente como lo es nuestra propia historia.  

Los algoritmos como tales no serían particularmente útiles si no fuese porque interactúan con nuestros cerebros, cuerpos y afectos generando un efecto secundario: no solamente extraen datos de nuestra privacidad, pero esto no sería demasiado peligroso porque siempre estamos cambiando. Lo que hace útiles a los datos es que los algoritmos también producen privacidad. Las listas de Spotify no solamente difunden música, también crean fono-identidades. Las listas de reproducción son objetos con los que creamos nuestra propia subjetividad, las “bandas musicales” de nuestra vida. Lo mismo ocurre con las plataformas visuales y las plataformas de experiencias: Uber y Ryanair nos constituyen como viajeros previsibles, ordenan los movimientos de nuestros cuerpos, Zara o las franquicias nos constituyen como identidades sociales. Recuerdo que, hace tres décadas, en la era del “gimme two” de los outlets de Estados Unidos,  cuando alguien me dijo “¡Tommy Hilfiger!, ¡eso es ropa de negros!” (en el barrio Salamanca se escuchan cosas de estas cada momento). 

Foucault intuyó estos cambios en su idea de la biopolítica. En estadios primitivos del capitalismo pensaba en prácticas discursivas, en cambios que se reflejasen en el discurso. Fue su etapa genealógica, algo que cambia en sus últimos años cuando comienza a pensar que la creación de instituciones y el saber del estado se sostienen o caen juntas: el estado necesita establecer instituciones que normalicen para que sus clasificaciones se hagan verdaderas. Es un problema básico de información y no de energía. La información desaparece rápidamente, como bien saben los servicios de inteligencia: los secretos no son más que estadios efímeros antes de aparecer en la prensa. Para que la información sea económicamente útil (a diferencia de los secretos sobre lo particular de los servicios de inteligencia) tiene que venir de bases normalizadas y robustas. Los algoritmos son eficientes si y solo si producen identidades, subjetividades inducidas, si no son simples representaciones de datos sino productores de sistemas que producen datos. La base material sobreviniente del complejo C-M-C en el capitalismo global de los big data ya no es solamente un ejercicio de la conservación de la energía. Tiene que controlar continuamente el flujo de datos para que estos produzcan información útil.  Obviamente este ciclo se sigue manteniendo sobre nuevas formas de trabajo de las que los algoritmos son solamente colaboradores. Y pensar en estas formas es sin duda una de las tareas más urgentes para entender nuestro tiempo.

Cabrían muchos ejemplos, pero quizás, muy rápida y descuidadamente propondría dos: las subprime que crearon la crisis del 2008 eran producto de la producción de subjetividades neoliberales. La burbuja inmobiliaria no habría existido sin la producción de la identidad: individuo-familia-vivienda. La burbuja actual de la educación no existiría sin la producción de biografías-currículo en las que el deseo de ser una historia normalizada ordena las trayectorias y los préstamos para obtener títulos. Todo eso sería imposible si solo fuesen los algoritmos: se necesitan subjetividades ahormadas. Otro ejemplo próximo ha sido el uso que ha hecho Trump de la información (que pasará a la historia como un genio de la manipulación de los nuevos sistemas informacionales): Trump sabía muy bien del poder performativo de los algoritmos. Sus tuits "fake news!" tenían el objetivo de producir desconfianza de la información y por tanto inutilización de las armas del adversario, al tiempo que sus continuos mensajes producían subjetividades proclives al consumo de sus productos como las teorías de la conspiración. Nadie como él entendió tan bien la fragilidad del algoritmo.

Fernando Broncano, Fragilidad del algoritmo, El laberinto de la identidad 16/01/2021

https://laberintodelaidentidad.blogspot.com/2021/01/fragilidad-del-algoritmo.html