Cory Doctorow: "Que una persona tan mediocre como Elon Musk tenga tanto poder nos dice que el sistema no funciona".



Cory Doctorow





Llevo más de 25 años trabajando como activista por los derechos digitales, y uno de los grandes problemas de este campo es que muchas de sus cuestiones son abstractas, técnicas y aparentemente lejanas. A menudo cuesta transmitir que lo que está en juego no pertenece a un futuro remoto, sino a la vida cotidiana de la gente. Una parte importante de ese trabajo consiste en encontrar marcos narrativos que hagan visibles la urgencia y la relevancia del problema. A veces eso se consigue con ensayos, con ciencia ficción, con metáforas o con parábolas. Y, a veces, también con una palabrota. En 2022, en un momento en que la frustración con las plataformas digitales estaba claramente desbordándose, usé ese término (enshittification) junto con una crítica bastante detallada en los planos económico, político y técnico. Y funcionó. Creo que mucha gente necesitaba exactamente eso: una licencia para la vulgaridad, para expresar lo que estaban viviendo.

"Mierdificación" es una teoría sobre cómo las plataformas digitales explotan la flexibilidad de la tecnología para extraer valor de usuarios, clientes y proveedores sin consecuencias reales. En el fondo, toda empresa quiere extraer el máximo valor posible: el negocio ideal sería no pagar nada por lo que obtiene y cobrar todo lo que vende. La diferencia es que en el entorno digital eso puede hacerse con una precisión y una opacidad inéditas. Puedes empeorar un servicio solo una vez de cada cien, para que el usuario no detecte el patrón. Puedes tratar a cada persona de forma distinta, ajustar precios, resultados, recomendaciones o comisiones según quién seas. La digitalización permite un grado de manipulación que en el mundo físico sería mucho más difícil o mucho más caro.

Distinguimos tres fases en ese proceso. En la primera fase, la plataforma es buena con sus usuarios para atraerlos y hacer que dependan de ella. En la segunda, como esos usuarios ya están atrapados, empieza a empeorar su experiencia y transfiere valor hacia los clientes empresariales: anunciantes, vendedores, medios, desarrolladores. Después atrapa también a esos actores. Y en la tercera fase, con usuarios y empresas ya dependientes, empieza a extraer valor de todos a la vez, hasta el límite mínimo que cree compatible con que sigan allí. En ese momento la plataforma se convierte, básicamente, en un montón de mierda.

El twiddling es una de las cosas para las que la IA es realmente buena: engañar de manera distinta a cada persona. Si eres una plataforma comercial, puedes estimar el precio máximo que pagará cada cliente, los llamados «precios personalizados». Si eres Uber, por ejemplo, puedes calcular el salario mínimo que aceptará cada conductor. La IA es especialmente propensa a la mierdificación, entre otras cosas porque no es determinista: resulta muy difícil saber si está cometiendo un error genuino o si el sistema está sesgado para favorecer ciertos resultados. Si le preguntas a un chatbot qué producto comprar, ¿te recomienda el mejor o aquel por el que alguien paga más comisión? Si la respuesta es mala, ¿es una alucinación técnica o una manipulación comercial? Esa ambigüedad ofrece una negación plausible extraordinaria. Además, la IA se presta muy bien a optimizar la extracción. En muchos servicios se factura por tokens o por distintos niveles de computación. Eso significa que la empresa puede decidir, de forma invisible para el usuario, qué recursos dedica a cada consulta. Puede argumentar que lo hace para abaratar costes, pero también puede derivar ciertas preguntas a procesos más caros para inflar la factura, o a procesos más baratos cuando no quiere ofrecerte un buen resultado.

La burbuja va a explotar y el impacto será enormemente dañino. Se han gastado ya cientos de miles de millones de dólares en IA y se habla de invertir todavía mucho más. Pero los ingresos del sector no justifican ni de lejos ese nivel de gasto. Creo que fue Keynes quien dijo que los mercados pueden mantener su irracionalidad más tiempo del que tú puedes mantener tu solvencia. La economía unitaria es pésima. Ha habido tecnologías que perdieron dinero al principio y luego encontraron una senda rentable. La web es un ejemplo clásico. Pero la web tenía una economía unitaria prometedora: cuantos más usuarios la usaban, más valor generaba. En la IA ocurre casi lo contrario. Cada nuevo uso menos rentable empeora la ecuación. Los modelos cuestan más, requieren más recursos y no existe una explicación convincente de cómo eso va a sostenerse indefinidamente. En finanzas, la Ley de Stein dice que cualquier cosa que no pueda continuar para siempre se detiene. Y al final se les acabará la gente dispuesta a darles dinero.

El 35% del mercado bursátil se va a evaporar cuando las empresas de IA se hundan, porque representan el 35% del [índice bursátil estadounidense] S&P 500. Lo de 2008 parecerá el mejor día de nuestra vida en comparación. Vamos a entrar en una crisis financiera global terrible que será un caldo de cultivo para el fascismo. Ese es el verdadero problema de la IA generativa, y no ese halo de poder místico. Eso no significa que no vaya a haber IA útil. Quizá, cuando estalle la burbuja, terminemos usando GPUs baratas procedentes de empresas quebradas para aplicaciones como la modelización climática, o para entender hasta qué punto nos jodió la IA.

Históricamente, la automatización ha seguido dos caminos. Cuando está dirigida por los trabajadores, se usa para mejorar la calidad; y cuando está dirigida por el capital, se usa para reducir costes. Los telares de vapor enfadaban a los luditas porque producían una tela de peor calidad a menor precio. Sin embargo, los gremios artesanales que fabricaban textiles eran tecnólogos muy capacitados y fabricaban máquinas que producían tela de muy alta calidad, pero era cara. Con la IA pasa algo parecido. Si sustituyes a guionistas de videojuegos por un chatbot, probablemente obtendrás algo más barato y peor. Si sustituyes a periodistas por sistemas automáticos, obtendrás contenidos más baratos y peores.

La inversión gigantesca que estamos viendo no llegó porque los mercados pensaran que iba a ayudar un poco a los trabajadores a hacer mejor su trabajo. Llegó porque los inversores creyeron que existía un enorme mercado para reducir masa salarial, es decir: no para aumentar, sino para sustituir. Así que no es solo un problema de gestión. Es un problema estructural del mercado. Además, el desarrollo de herramientas como ChatGPT se ha hecho con el propósito de miserabilizar a los trabajadores creativos. La exdirectora de tecnología de OpenAI aseguró que los trabajos creativos reemplazados por la IA «no deberían haber existido en primer lugar». Así que no es que lo oculten precisamente. Y Sam Altman hizo el filtro Miyazaki para vengarse de él por decir que odiaba el arte con IA. Estos tipos son imbéciles y la cuestión es que no son imbéciles excepcionales. Los convertimos en genios o en supervillanos, pero son solo gilipollas normales. Todas las tecnologías tienen gente de mierda en su pasado. Que una persona tan mediocre como Elon Musk tenga tanto poder nos dice que el sistema necesita cambios urgentes. Que un sociópata con suerte pueda terminar con medio billón de dólares y el poder para subvertir democracias es muy preocupante.

Si muchas de las herramientas que hoy presentamos como revolucionarias se desarrollasen en laboratorios científicos, probablemente las veríamos como lo que a menudo son: complementos útiles, plugins, funciones concretas. Un corrector que sugiere frases, una herramienta de edición que reorganiza materiales, un sistema que ayuda a programar una rutina, una función que reúne todas las escenas de un personaje en una novela… Algunas personas no sentirían la necesidad de usarla y no pasaría nada.

Si hacemos legal que las empresas europeas cojan los billones que las tecnológicas estadounidenses extraen y los conviertan en miles de millones de beneficios europeos, no solo desmierdificaremos la esfera tecnológica de Europa, sino que también crearemos un nuevo y mejor sector tecnológico. Y crearemos las herramientas para migrar fuera de las plataformas estadounidenses donde ahora mismo están atrapados todos los gobiernos de Europa, las empresas estructuralmente importantes y los hogares, que son vulnerables en cualquier momento a que Trump ordene cerrarlas. Trump podría apagar al Gobierno de España porque todo funciona con Office 365. Ahora tenemos medios, motivos y oportunidad. Tenemos una crisis que precipita un cambio. Tenemos una coalición de activistas de derechos digitales y emprendedores, muchos de los cuales son tecnólogos que antes estaban en Silicon Valley y han huido de Estados Unidos. Están cabreados y saben cómo funciona la tecnología. Tenemos una fuga de cerebros inversa en marcha ahora mismo. Estados Unidos está expulsando a los tecnólogos más inteligentes del país de vuelta a sus países de origen. Están buscando dónde ir a construir. Tenemos también una razón de seguridad nacional, y si juntas a los halcones de la seguridad nacional, a los emprendedores y a los activistas de derechos digitales, tienes una coalición poderosa. Es muy emocionante.

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

Determinisme biològic i diferència de gènere.

Imatge
Simone de Beauvoir Crecí en una familia que, como muchas en los años setenta, estaba bastante de acuerdo con la máxima que enunció elocuentemente Simone de Beauvoir en 1949: "No se nace mujer, se llega a serlo". Por lo tanto, mi madre se negó a comprar Barbies a sus hijas; mi hermana y yo tuvimos un montón de Legos y coches de juguete. La lucha contra los estereotipos de género empezaba en casa. Estaba convencida de que, una generación después, mi hija crecería en un mundo mucho más libre. Daba por hecho que el triunfo de la generación de mi madre había hecho posible que la feminidad se hubiera convertido en una elección en vez de en una trampa. Creía que las niñas serían libres de ser hadas o princesas, del mismo modo que las mujeres adultas podíamos elegir adoptar determinados símbolos de la feminidad que las feministas de los años sesenta habían considerado opresores, como los tacones o el maquillaje. Pero de pronto descubrí que, casi sin que me hubiera dado cuenta, ...
Més informació