Un futur irreconeixible?
 |
En la seva breu xerrada, “El 2030, el món serà irreconeixible”, ¹ Yuval Noah Harari presenta la seva posició sobre com el desenvolupament explosiu de la IA afectarà les nostres vides d'una manera tan clara i succinta que la xerrada en si mateixa ofereix un objecte d'anàlisi crítica. Ofereix una visió força detallada del nostre món el 2030, que qualifica d'"irreconeixible" per a aquells de nosaltres que encara estem arrelats en les nocions tradicionals d'humanitat. Tanmateix, per deixar el meu punt de vista brutalment clar, crec que la realitat del 2030 també serà irreconeixible per a aquells que donen suport a la visió de Harari del 2030.
La premissa d'Harari, que comparteixo, és que el que està passant avui dia és una cosa de la qual la majoria de nosaltres no som plenament conscients: la fi de la humanitat tal com la coneixíem, que va començar fa uns 10.000 anys, quan les tribus de l'edat de pedra van començar a utilitzar el llenguatge. Amb el ràpid augment de la intel·ligència artificial, el llenguatge ja no és una eina utilitzada pels humans per a la comunicació i la interacció; adquireix plena independència i comença a funcionar com a agent propi, tallant el cordó umbilical que el connectava amb els simis vulnerables anomenats humans. Aquí em trobo amb el primer problema: una llengua sense subjecte(s), una llengua que actua com a agent propi, encara funciona com a llenguatge? A més, es pot reduir el llenguatge realment a les seves dues funcions, el càlcul intel·lectual i l'expressió d'emocions?Harari elabora tres grans talls que marquen la fi de la humanitat tal com la coneixíem:
— En primer lloc, hi ha l'immens aparell de la IA: conté coneixement que supera amb escreix la memòria humana i està disponible instantàniament. Aquest coneixement inclou coneixement sobre els individus que habiten a la IA. En aquest sentit, com es diu sovint, la IA ens coneix millor que nosaltres mateixos. A més, la IA no només recopila coneixement i hi realitza operacions cognitives —raonaments—: ja no és només una eina, una màquina que segueix ordres i fa el que se li diu que faci; ja és un agent preparat per prendre decisions autònomes, decisions per a les quals no va ser programada. No només aprèn i es transforma per dur a terme les seves tasques; ja és capaç de redefinir aquestes tasques elles mateixes.
La meva reacció aquí és doble. Primer, és clar que no ens coneixem bé a nosaltres mateixos perquè tenim un Inconscient, és a dir, perquè la nostra mateixa subjectivitat implica que no som recognoscibles per a nosaltres mateixos. Pel que fa a les decisions, la decisió humana és lliure en el sentit precís que la seva dimensió més bàsica és el que Freud anomenava la pulsió de mort: l'elecció del no-res. En ambdós casos, la pregunta continua oberta: fins a quin punt la IA mostra aquestes dimensions: subjectivitat, pulsió de mort, inconscient?
— En segon lloc, la IA, juntament amb l'ús tecnològic dels coneixements de les ciències del cervell, difumina el límit entre la realitat i la ficció. La nostra percepció de la realitat externa i la nostra interacció amb ella sempre han estat mediades per un context simbòlic sociohistòric, de manera que el que veiem és una «al·lucinació controlada» (Anil Seth): la nostra percepció de la realitat no és una finestra directa al món, sinó una simulació interna de la millor conjectura generada activament pel cervell i constantment controlada per l'entrada sensorial. Avui dia, la «simulació interna» ja no és simplement un procés espontani regulat pel nostre cervell i la ideologia compartida; es genera cada cop més mitjançant la manipulació tecnològica conscientment planificada.
No es tracta només que allò que veiem fora de nosaltres com a realitat sigui una falsificació, com el fons pintat en una gran paret en una escena de pel·lícula, de manera que no cal construir cases reals o col·locar arbres reals al fons. El nostre aparell perceptiu està manipulat directament, de manera que allò que creiem veure allà fora no hi és, ni tan sols com una falsificació pintada o un so simulat: els nostres propis nervis estan manipulats directament. Com la majoria de nosaltres sabem, no només el dolor o el plaer, sinó fins i tot l'orgasme, ja es poden generar sense representacions visuals a la nostra ment, simplement excitant directament els nostres nervis. Quan les intervencions directes al nostre cervell esdevinguin un fet, serà possible inserir records falsos, o fins i tot traumes que mai hem experimentat a la realitat, al nostre cervell.
La meva resposta a això és insistir en la distinció lacaniana clau entre el Real i la realitat, que de cap manera se superposa amb la distinció entre la realitat en si mateixa i la manera com la realitat se'ns apareix, infectada de ficcions i fantasies.
Molts crítics es queixen que el Real lacanià és una noció difícil d'aconseguir que oscil·la entre significats oposats: és el buit al voltant del qual s'estructura una xarxa simbòlica; és una resta contingent, una taca, un petit tros del real que resisteix la simbolització —el que Schelling anomenava der nie aufgehende Rest— ; és un llenguatge purament formal que no sosté cap significat, com les fórmules matemàtiques; és una Cosa terrorífica que no som capaços d'integrar en la nostra noció quotidiana de la realitat: un monstre gegantí que es menja la gent viva, una megatempesta que arrasa les cases i la gent que hi ha, una tortura brutal que destrossa la gent: casos en què un observador es diu a si mateix: "Això no pot ser cert!"; és una barrera que ens impedeix anar més enllà, tot i que no hi ha res; és la fantasia bàsica sobre la repressió de la qual es fonamenta l'existència del subjecte, una fantasia en la qual un subjecte mai no es pot reconèixer a si mateix.
El que hem de fer aquí no és introduir una classificació del Real, dividint-lo en quatre o cinc subcategories; hem de capturar el moviment immanent de la noció del Real. Un aspecte del Real, portat a l'extrem, muta en un de totalment diferent: la imatge d'una Cosa terrorífica muta en una fantasia que cobreix —o, més aviat, omple— el Buit primordial; aquest Buit muta en un obstacle o prohibició que cobreix el fet que no hi ha res amagat darrere. La matriu es repeteix aquí: el Real és allò que hi ha abans de la simbolització i allò que ve després, la resta de la simbolització. El Real és allò que està més enllà de la simbolització i l'obstacle que ens impedeix arribar a aquest més enllà. El Real és una forma buida sense contingut, i un contingut per al qual no hi ha lloc en la forma —recordem la fórmula de Lacan del subjecte-objecte: \$-a.
Aquí també rau la paradoxa de la prohibició de l'incest: prohibeix alguna cosa que en si mateixa és impossible. L'incest amb la mare està prohibit, però el veritable objectiu d'aquesta prohibició és crear la il·lusió que, si la transgredim, assoliríem un gaudi ple, no castrat . En resum, la prohibició emmascara el fet que no hi ha res a prohibir. Aleshores, per què perdre temps amb aquests detalls aquí? Perquè, de nou, no hi ha lloc per a una coincidència d'oposats tan enrevessada en la IA.
Per tant, no n'hi ha prou amb queixar-se que el creixement de la IA soscava la separació entre fets i ficcions, i tampoc n'hi ha prou amb celebrar com una nova llibertat la nostra capacitat de moure'ns suaument entre fets i ficcions. Veiem clarament la catàstrofe d'aquesta "llibertat" en gran part de la política actual —Trump, Putin, Israel— on està sorgint un nou discurs que ni tan sols pretén ser veraç en el sentit tradicional. Al nivell òntic de la realitat, hauríem d'insistir més que mai en la veritat factual; però hem de ser conscients que, a un nivell ontològic més bàsic, la distinció entre veritat i ficció es torna borrosa.
— Finalment, però no menys important, el Sant Greal de tota aquesta tendència és la perspectiva de Neuralink, d'un cervell connectat: la IA combinada amb la neurocirurgia i la tecnologia basada en les ciències del cervell obre el camí a la comunicació directa entre el nostre flux de pensaments i un agent digital. Ja no necessitem una pantalla per interactuar amb la IA: l'agent d'IA pot llegir directament el que passa a la nostra ment i actuar en conseqüència.² Quan les empreses presenten els primers implants modestos que permeten a una màquina digital llegir els nostres pensaments, gairebé sempre presenten el cas benèvol de com un implant d'aquest tipus permet a una persona totalment discapacitada comunicar els seus pensaments —pensa i una màquina d'IA els pronuncia— o actuar sense moure's: l'agent d'IA llegeix els seus pensaments i mou la cadira, encén el televisor, etc.
El que es menciona menys sovint és que la comunicació també va en la direcció oposada: els nostres pensaments són controlats per un agent d'IA i, per descomptat, per un altre ésser humà que controla l'agent d'IA. La perspectiva que s'obre aquí és la d'una transparència total del flux intern dels meus pensaments cap a una màquina d'IA externa, i cap a aquells que controlen aquesta màquina.
Tot i que Harari és conegut pels seus constants avisos que l'era humana s'ha acabat, aquí és massa optimista, pintant una imatge del futur proper —el 2030— en què els individus podran mantenir relacions emocionals amb persones reals i digitals. Això ja està passant quan les persones passen hores conversant amb ChatGPT. Però imagineu-vos un sistema molt més desenvolupat en què em poso unes ulleres digitals i entaulo una conversa amb el meu pare difunt, la persona virtual del qual ha estat reconstruïda a través dels meus propis records i els d'altres, i altres tipus de rastres materials —enregistraments, etc.—. Però qui controla aquest joc? Què passa amb ser controlat des de dins, amb pensaments i falsos records implantats a la meva ment sense que jo ni tan sols ho sàpiga? Imagineu-vos que un record de ser violada pel meu pare s'implanta a la meva ment i que l'experimento com a autèntic. Què passa si sorgeix una nova classe de mestres que poden llegir els nostres pensaments i intervenir-hi, però que no estan oberts a Neuralink? Què passa si els exclosos no són només inferiors marginats, sinó el grup d'elit de mestres que controlen i manipulen els habitants d'una singularitat?
Pel que fa a Neuralink, Harari imagina que un individu podrà triar lliurement a quines ments col·lectives unir-se: científics? poetes? De debò? Sobreviurà la meva individualitat a la seva immersió en el que s'anomena "singularitat"? Com que l'implant que regula el meu contacte amb un Neuralink és un dispositiu mecànic, no és evident que el control l'exerceix qui connecta o desconnecta l'implant? No sóc un esquerranista ingenu que pensa que la IA és una màquina neutral les implicacions socials de la qual depenen de les circumstàncies socials en què opera: hi ha una tendència al control i la dominació tecnològics inscrita en l'estructura mateixa formal de la IA. És per això que és difícil imaginar una comunitat feliç i emancipada d'individus humans que viuen junts en una singularitat: en una singularitat, no hi ha sexe, ni acudits, ni comunicació en què l'altre romangui obscur.
La conclusió que s'imposa és que cada gran avenç tecnològic obre un camí cap a una nova barbàrie: el seu efecte pseudoalliberador acaba en el que Herbert Marcuse va anomenar «dessublimació repressiva», un terme que va introduir a L' home unidimensional el 1964.³ Es pot argumentar que Theodor Adorno va ser el primer a apuntar en aquesta direcció en la seva anàlisi de La consagració de la primavera de Stravinski («Stravinski i la reacció»), segona part de la seva Filosofia de la música nova (1949).⁴ Adorno va observar perspicaçment com el modernisme de Stravinski —la seva imitació musical del ritme de la producció industrial brutal— pren com a contingut els vells mites sacrificials russos bàrbars i violents.
Segons Marcuse, la «repressió» en el capitalisme tardà no opera mitjançant el control i la negació, sinó mitjançant la permís i l'expressió: tots els plaers són permesos —en forma mercantilitzada—, cosa que porta a l'expressió controlada de tots els desitjos i anhels. En altres paraules, avui dia la repressió opera mitjançant la desublimació del desig, on cap desig és forçat a ser soterrat: la pornografia, el treball sexual, la cultura de les drogues, el BDSM, els furries, la cultura gai, la vida fastuosa, la cultura trans i similars ja no són vistos per la societat com a estils de vida negatius o perniciosos. La seva recerca ara està sancionada i celebrada: ser membre d'aquestes formes de vida ja no és una acció o un estil de vida subversiu, sinó que ara perpetua el capitalisme a través de la forma de valor. ⁵
El creixement explosiu actual d'agents d'IA ha portat la desublimació repressiva a un nou nivell, inimaginable fins ara, en totes les seves dimensions: des de l'univers de la postveritat fins a la difuminació de la distinció entre l'espai públic pròpiament dit i l'espai privat, sense oblidar el control digital del que fem i pensem. Els mitjans de comunicació basats en la IA també tenen un paper crucial en la manera com la brutalitat i l'obscenitat descarada han envaït el discurs polític públic durant l'última dècada. No només amb les seves paraules, sinó també amb els seus actes —declaracions públiques de com es tortura els presoners—, els EUA i Israel ara practiquen la desublimació repressiva. Trump i Netanyahu, sense oblidar Hegseth i Ben Gvir, sovint parlen en públic d'una manera que, fins fa poc, només era imaginable en converses privades o intercanvis de correus electrònics privats. El seu discurs és literalment un discurs de desublimació repressiva: està definitivament desublimat —brutalment obert, sense limitacions que salvaguardin la dignitat— i alhora repressiu, anunciant un maltractament no menys brutal dels percebuts com a enemics, inclosa l'aniquilació de tota una civilització.
No tractem aquí només un efecte de la IA, sinó un conjunt molt específic de circumstàncies socials en què opera la IA. Encara estem buscant un nom adequat per a aquest nou conjunt de circumstàncies: neofeudalisme digital, feixisme liberal, una nova modalitat de bonapartisme. Som ben conscients que aquests noms circulen al voltant d'un fenomen que és definitivament real i el pes del qual tots sentim. El funcionament de la IA no es pot desconnectar de la lluita de classes neofeudal que millor simbolitza el quartet perniciós de Musk-Thiel-Bezos-Zuckerberg.
Slavoj Zizeck, El anys 2030 de Harari: una nova era de dessublimació repressiva, Zizeck goads and prods 09/09/2026
Fa anys vaig fer un llibre sobre això; vegeu Hegel in a Wired Brain , Londres: Bloomsbury 2020
Vegeu Herbert Marcuse, L'home unidimensional, Boston: Beacon Press 1991.
Vegeu Theodor W. Adorno , Filosofia de la nova música , Minneapolis: Minnesota University Press 2006.
Comentaris