Algoritmes, Big Data i Robòtica (Ramon Alcoberro)
El conglomerat que formen els algoritmes, el Big Data i la robòtica, en la mesura que són capaços de produir noves formes de realitat (i de control), estan transformant ara mateix l’entorn humà i ens obliguen a repensar l’abast de moltes idees que provenien de la tradició il·lustrada, començant per l’autonomia moral i la identitat personal. La intel·ligència artificial (AI) no tan sols provoca un canvi d’escala en el coneixement, sinó que transforma la mateixa manera de conèixer, de tal manera que ens aboca a una mutació cultural i ho fa, a més, acceleradament. Si haguéssim de caracteritzar el segle xxi, seria gairebé tòpic dir que assistim a un canvi de civilització, a una transformació del món que no acabem d’entendre però que experimentem cada dia, immersos com estem de grat o per força en una societat tecnològica. Sabem que estem abocats a un procés de mutació de l’humà, però ignorem com navegar entre els canvis.
La nostra autonomia personal (que amb un eufemisme sinistre ara es vol reduir a «sobirania de dades») se’ns esmuny a les xarxes. Hem delegat la gestió de les nostres vides en els algoritmes i, a la pràctica, en depenem. Tecnologies que operen en línia o en un món de realitat ampliada generen percepcions, provoquen emocions i prenen decisions significatives que regeixen un món on habitem persones fetes de carn i de desigs, que no ens resignem a ser tractats (tan sols) com a fluxos d’informació. Les conseqüències d’una pèrdua real de la nostra capacitat de decidir en una societat tecnificada, són d’una importància social i política que no es pot menystenir.
Un algoritme és un conjunt de regles operatòries l’aplicació de les quals permet resoldre un problema mitjançant un nombre finit d’operacions, o més tècnicament «una estructura de control composta finita, abstracta, eficaç, donada de manera imperativa, que aconsegueix un propòsit determinat sota disposicions determinades» (Hill, Robin K., “What an Algorithm Is”, Philos Technol 29 (1), 2016, p. 47). A través dels algoritmes és possible una gestió de la vida incomparablement més complexa que qualsevol forma de control coneguda fins ara i que no sa- bem com gestionar. Per potència, per velocitat i per intensitat, la modificació que la robòtica ha produït en tots els aspectes de la vida humana no té comparació amb cap altra època en la història. La tradició occidental, que des del Gènesi es proposava dominar/administrar la terra i la realització pràctica d’aquest domini a través de la idea il·lustrada del progrés tecnològic, sembla haver arribat a la seva culminació a través dels algoritmes que duen amb ells una gestió d’una vida (ara sí!) definitivament racionalitzada i on l’eficàcia de l’acció es maximitza cada cop més.
La gestió algorítmica de la vida no és una quimera sinó una realitat que provoca malfi- ança perquè no tenim eines de control social que la limitin. Comprendre els canvis mentre estem canviant, reparar el vaixell en mig de la tempesta, resul- ta una tasca potser excessiva, però segurament és l’imperatiu ètic més urgent ara mateix.
Perdre la capacitat de comprensió del món va molt més enllà de perdre l’autonomia humana. Amb algoritmes, emprant eines d’aprenentatge au- tomàtic (i sovint «de caixa negra», val a dir, mecanismes als que l’usuari no pot accedir), s’està realitzant la intuïció del vell Leibniz quan deia que arribaria el moment que els homes ja no discutirien sinó que calcularien i això significa un novum radical en la història de la humanitat amb un abast que encara estem lluny de comprendre per- què implica una transformació d’arrel de la nostra concepció de la llibertat i de l’autonomia. Fascinats i entretinguts com estem per les aplicacions lúdiques de la informàtica a la vida quotidiana, ben poca gent recorda l’exercici del poder sense regles sempre ha estat una característica del totalitarisme. La barreja d’un gran poder i una immensa ceguesa és un perill que sembla no importar gaire socialment parlant. En el món del Big Data no hi ha només problemes d’enginyeria sinó de societat.
Que el canvi tecnològic s’estigui produint sense control social, ni regles morals i polítiques per a gestionarlo implica un perill social i emocional significatiu.
L’homo technologicus que hem estat sempre ha transformat finalment la natura i per als més pessimistes podem estar al caire mateix de l’autodestrucció si com a civilitza- ció no ens fem capaços d’entendre els termes (i els límits) de la nostra a dependència respecte a les eines en què hem delegat la gestió de les nostres petites vides.
La robòtica i els ordinadors es van estructurar i van créixer sense que ningú determinés prèviament unes regles del seu ús, una mica com les ciutats incòmodes i mal construïdes que creixen al seu aire i sense planificació (cosa que ja lamentava Descartes). Les regles han vingut després i això ex- plica en bona part que quan els usuaris no saben quin són els límits i els drets que regeixen els terri- tori se sentin desprotegits i temorosos.
Contra el que temen els tecnòfobs, la tecnologia té una clara tendència a resoldre els problemes que ella a mateixa provoca. El programa progressista de la Il·lustració –que fins ara ha estat el més exitós en la història de la humanitat, malgrat les aparences– implica una confiança bàsica en la racionalitat tecnològica i és un fet provat que els problemes provocats per la ciència sempre s’han resolt a través de més i millor ciència i no amb l’enyor d’un passat, ni amb la prohibició de la investigació en àrees diguem-ne perilloses o moralment farcides d’indecisions i dubtes. Milito entre els qui defensen que abandonar el programa de la Il·lustració i la idea de progrés és un error greu i podria tenir conseqüències fatals.
La informàtica, com qualsevol altra tecnologia no farà per ella sola que món sigui just o bo, però aspira a regir-se per regles raonables i, per tant, bàsicament morals. Que una regla sigui raonable signi- fica senzillament que la seva aplicació té moltes (però moltes....) més conseqüències positives que negatives i no nega que la seva utilitat sigui parcial o imperfecta. D’aquí la necessitat d’una gestió ètica de les dades, que si bé no garanteix la justícia o la bondat d’un algoritme, procuri com a mínim, estalviar (-nos) biaixos i inconseqüències.
Ramon Alcoberro, Ex Machina. Ètica, Big Data, Algoritmes i Robots, Edicions Enoanda 2022
Comentaris