Els perills de la Intel·ligència Artificial (Yuval Noah Harari)

La intel·ligència artificial ha adquirit capacitats notables per manipular i generar llenguatge, ja sigui amb paraules, sons o imatges. I, d'aquesta manera, ha piratejat el sistema operatiu de la nostra civilització.

El llenguatge és la matèria de què està feta gairebé tota la cultura humana. Els drets humans, per exemple, no estan inscrits en el nostre ADN. Són, més aviat, artefactes culturals que vam crear constuint relats i escrivint lleis. Els déus no són realitats físiques. Són, més aviat, artefactes culturals que creem inventant mites i component escriptures sagrades.

Què passarà quan una intel·ligència no humana sigui més bona que l'ésser humà mitjà per explicar històries, compndre melodies, dibuixar imatgs i redactar lleis i escriptures?

Gràcies al seu domini del llenguatge, les intel·ligències artificials podrien fins i tot entaular relacions molt pròximes amb les persones i fer servir el poder proporcionat per aquesta proximitat per modificar les nostres opinions i visions del món. Tot i que no hi ha cap indici que les intel·ligències artificials tinguin consciència ni sentiments propis, en tindran prou amb aconseguir que els humans s'hi sentin emocionalment vinculats per fomentar una falsa intimitat amb nosaltres. 

Què passarà amb el curs de la història quan la intel·ligència artificial s'apoderi de la cultura i comenci a produir relats, melodies, lleis i religions. Les eines anteriors, com ara la imprenta i la ràdio, van ajudar a difondre idees culturals dels humans, però no van crear mai idees culturals pròpies. La intel·ligència artificial és totalment diferent. La intel·ligència artificial pot crear idees completament noves, una cultura completament nova. 

Sempre hem apreciat el poder dels relats i les imatges per manipular la ment i crear il·lusions. Per això, des dels temps antics, els humans hem temut quedar immmersos en un món d'il·lusions.

Al segle XVII René Descartes va témer que potser un dimoni maliciós el tingués immers dins d'un món d'il·lusions i que creés tot el que veia i sentia. A l'antiga Grècia Plató va explicar la famosa al·legoria de la caverna, en què un grup de persones passa tota la vida encadenada dins d'una cova davant d'un mur buit. Una pantalla. En aquella pantalla veuen projectades diverses ombres. Els presoners confonien les il·lusions que veuen a la pantalla amb la realitat.

A l'antiga Índia els savis del budisme i l'hinduisme van afirmar que els éssers humans vivíem sotmesos a maia, el món de les il·lusions. Sovint el que solem prendre per realitat no són més que ficcions de la nostra pròpia ment. Les persones poden lliurar guerres, matar altres persones i estar disposades que les matin convençudes per la creença en qualsevol il·lusió. 

La revolució de la intel·ligència artificial ens enfronta al dimoni de Descartes, a la caverna de Plató, a maia. Si no anem amb compte, podríem quedar immersos en un vel d'il·lusions que seríem incapaços d'esquinçar ... fins i tot adonar-nos de la seva existència.

La democràcia és una conversa, i les converses es basen en el llenguatge. Si la intel·ligència artificial pirateja el llenguatge destruirà la nostra capacitat de mantenir converses significatives, i amb això destruirà la democràcia.

Acabem de topar amb una xenointel·ligència, aquí a la Terra. No en sabem gaire, d'aquesta IA, tret que podria destruir la nostra civilització. Hem de posar fi al desplegament irresponsable d'eines d'intel·ligència artificial en l'àmbit públic i regular la intel·ligència artificial abans que ella ens reguli a nosaltres. 

Aquest text ha estat generat per un humà.

O potser no?

(Text abreujat de l'original aparegut al diari La Vanguardia)

Yuval Noah Harari,
El possible final de la història humana, La Vanguardia 03/05/2023