Vergonya prometeica.

Günther Anders i Hannah Arendt

Els filòsofs del segle XX Hannah Arendt i Günther Anders van estar casats durant vuit anys, des del 1929 fins al 1937, i m'agradaria suggerir que, combinant la idea d' homo faber d'Arendt amb la idea de vergonya prometeica d'Anders, podem descobrir un aspecte ocult de la intel·ligència artificial generativa que està destinada a projectar una ombra tràgica sobre nosaltres i la nostra feina a partir d'ara. En crear el que millor es podria anomenar machina faber , hem portat al món un instrument que transcendeix la seva instrumentalitat. L'eina esdevé un fabricant en si mateix, una màquina que, siguin quines siguin les seves deficiències actuals i futures, s'immisceix en allò que Arendt veia com una essència de l'humà: la nostra capacitat de crear un món per a nosaltres mateixos.

L' homo faber original era l'artesà, l'home que creava amb les seves mans objectes que eren útils però no només útils. Eren molt més que el que avui anomenaríem "béns de consum" o "d'un sol ús". Elaborats amb cura i habilitat, els artefactes de l'homo faber , tant si tenien la forma de taules de sopar com de catedrals, eren sòlids i duradors. Resistien el temps, sobreviuen als seus fabricants i als seus primers usuaris. En conjunt, formen els fonaments de la civilització, donant a la societat humana una continuïtat al llarg del pas de les generacions. Tot individu és mortal, però l'"artifici humà", com el va anomenar Arendt, perdura.

El món de les coses creat per l'home, l'artifici humà erigit per l'homo faber , esdevé una llar per als homes mortals, l'estabilitat dels quals perdurarà i sobreviurà al moviment sempre canviant de les seves vides i accions, només en la mesura que transcendeixi tant el pur funcionalisme de les coses produïdes per al consum com la pura utilitat dels objectes produïts per a l'ús.

Però l'homo faber , va subratllar Arendt, és tant l'artista com l'artesà. Les paraules del poeta, les cançons del músic, les imatges del pintor i del fotògraf, les figures de l'escultor: totes porten les històries dels humans i la humanitat al llarg del temps. Proporcionen la continuïtat no de l'artifici físic sinó de l'artifici intel·lectual i estètic: de la història i el govern, del coneixement, l'enginy, la bellesa.

Si els mortals necessiten la seva ajuda per erigir una llar a la terra, els homes que actuen i parlen necessiten l'ajuda de l' homo faber en la seva màxima capacitat, és a dir, l'ajuda de l'artista, dels poetes i historiografs, dels constructors de monuments o escriptors, perquè sense ells l'únic producte de la seva activitat, la història que representen i expliquen, no sobreviuria en absolut.

L'Homo faber s'enorgulleix de la seva feina —la seva habilitat li donava el poder de convertir la matèria inanimada de la natura en finalitats humanes— i l'orgull era compartit per tota la humanitat. Günther Anders ho va anomenar "orgull prometeic", en honor al déu grec que va crear l'home del fang. Però amb la Revolució Industrial, segons la narració d'Anders, la història va prendre un gir fosc. A mesura que l'homo faber va arribar a confiar en maquinària cada cop més complexa per fabricar béns, es va anar alienant dels productes que produïa. Ja no eren productes de les seves mans; sorgien d'un procés mecànic en què ell només tenia un petit paper. Els compradors dels béns sentien una alienació similar. Ja no podien veure en els productes cap origen humà. Ja no podien construir-hi una llar.

Avui ens trobem —va escriure Anders a *L'obsolescència de l'humà *— , envoltats de productes que no ens semblen haver estat produïts per nosaltres. Hem cedit tant del seu disseny i producció a les tecnologies industrials que ja no podem compartir l'orgull de la seva invenció i fabricació. De fet, han arribat a projectar una alteritat que no només sembla separada de nosaltres, sinó superior a nosaltres. Es burlen de nosaltres com a masses antiquades de carn i ossos. Els productes actuals —va observar Anders— 

simplement hi són. Els trobem principalment com a béns de consum necessaris, desitjables, superflus, assequibles o inassequibles que esdevenen "meus" només després que els hagi comprat. Com a tals, és molt més probable que siguin una prova de la pròpia insuficiència que una prova del poder.

Aquesta sensació d'insuficiència va transformar l'"orgull prometeic" en "vergonya prometeica": la vergonya que sent l'home contemporani per haver nascut en comptes d'haver estat creat, per ser producte de processos naturals en lloc de tecnològics. "Es menysprea a si mateix", va escriure Anders, "de la mateixa manera que les coses el menysprearien si poguessin". La vergonya, va continuar, es torna particularment aguda quan una persona veu per primera vegada una suposada màquina de pensar:

Pel que fa a l'home que s'enfronta per primera vegada a una màquina informàtica en funcionament, l'autoengrandeïment i l'orgull li són encara més aliens. Un observador que esclata amb l'exclamació: "Déu meu, que grans que som, per ser capaços d'això!" quan es troba amb una màquina així és un pallasso, un producte de la imaginació. Ben al contrari! Més aviat murmura amb un moviment de cap: "Déu meu, és increïble el que pot fer la màquina!". Alhora, se sent molt incòmode en la seva pell de criatura, ja que la màquina li posa la pell de gallina i l'avergonyeix. 

Tot i que va ser escrita fa setanta-cinc anys, aquesta última frase em sembla una de les descripcions més perspicaces de la confrontació de l'home amb la IA generativa: "se sent molt incòmode en la seva pell de criatura, perquè la màquina li posa la pell de gallina i l'avergonyeix".

Amb l'arribada de la machina faber en forma d'IA, faber ( el creador) ja no sembla el terme adequat per aplicar-nos a nosaltres, els humans. Suggeriria que fictor (el fabricant) és ara el millor descriptor. En llatí, fictor , com faber , denota un creador (tot i que algú que treballa amb materials mal·leables com l'argila en lloc de sòlids com la fusta o el metall), però la paraula, com la paraula anglesa fabricator , també té una connotació de falsedat o engany. Deriva del verb fingere , que significa tant modelar com fingir. Homo fictor és el creador que pot mentir sobre el que fa. Les seves obres, per útils que siguin, per elegants que siguin, sempre seran sospitoses. Sempre portaran un indici de frau. Les va fer ell o ho va fer la IA?

Machina Faber roba als fabricants l'orgull pels seus èxits. Si fas servir la IA per "escriure" alguna cosa, o per "codificar", o per "dissenyar", o per "compondre", o per "dissenyar" alguna cosa, o per "inventar", aleshores se't negarà qualsevol veritable sensació d'èxit. Sempre sabràs que ets un frau. Sempre t'avergonyiràs de tu mateix, fins i tot si negues la teva vergonya. Com va escriure Anders: "Qualsevol que negui l'existència d'aquesta forma de vergonya ho fa perquè admetre que hem recorregut un camí tan gloriosament llarg només per ara sentir vergonya davant de les coses ja els faria ruboritzar de vergonya". 

Però —i aquí rau la part tràgica— la vergonya no es limita als artesans i artistes que utilitzen la IA en la seva obra. La vergonya abasta tothom, fins i tot aquells que s'abstenen d'utilitzar la IA, fins i tot aquells que s'enorgulleixen del seu rebuig públic a la IA. En un article recent del New York Times article d'opinió sobre la controvèrsia al voltant de Shy Girl , la novel·la cancel·lada pel seu editor perquè es considerava que la seva prosa feia olor d'IA, la novel·lista Andrea Bartz escriu:

Quan els lectors em fan preguntes sobre les meves novel·les de thriller, m'encanta parlar dels temes i personatges que hi apareixen, així com de la inspiració per a la meva escriptura. Però a mesura que la intel·ligència artificial generativa s'obre camí per la indústria editorial, em preparo per a una pregunta que em farà venir ganes de fer-me la guitza: realment has escrit això?

Just o no, aquesta és la pregunta que ara és ineludible per a tots els fabricants. Fins i tot si no traficeu amb deixalles d'IA, encara esteu subjectes a la boira d'IA. La seva olor és a tot arreu, igual que la vergonya que porta. Ningú està fora de sospita. Res és pur.

Nicholas Carr, From Homo Faber to Homo Factor, New Cartographies 30/03/2025