Algoritmes, Big Data i Robòtica (Ramon Alcoberro)









El conglomerat que formen els algoritmes, el Big Data i la robòtica, en la mesura que són capaços de produir noves formes de realitat (i de control), estan transformant ara mateix l’entorn hum i ens obliguen a repensar l’abast de moltes idees que provenien de la tradició il·lustrada, comenant per l’autonomia moral i la identitat personal. La intel·ligncia artificial (AI) no tan sols provoca un canvi d’escala en el coneixement, sin que transforma la mateixa manera de conixer, de tal manera que ens aboca a una mutació cultural i ho fa, a més, acceleradament. Si haguéssim de caracteritzar el segle xxi, seria gairebé tòpic dir que assistim a un canvi de civilització, a una transformació del món que no acabem d’entendre però que experimentem cada dia, immersos com estem de grat o per força en una societat tecnolgica. Sabem que estem abocats a un procs de mutaci de l’hum, per ignorem com navegar entre els canvis.

La nostra autonomia personal (que amb un eufemisme sinistre ara es vol reduir a «sobirania de dades») se’ns esmuny a les xarxes. Hem delegat la gesti de les nostres vides en els algoritmes i, a la prctica, en depenem. Tecnologies que operen en lnia o en un mn de realitat ampliada generen percepcions, provoquen emocions i prenen decisions significatives que regeixen un món on habitem persones fetes de carn i de desigs, que no ens resignem a ser tractats (tan sols) com a fluxos d’informaci. Les conseqüències d’una prdua real de la nostra capacitat de decidir en una societat tecnificada, són d’una importncia social i poltica que no es pot menystenir.

Un algoritme és un conjunt de regles operatòries l’aplicaci de les quals permet resoldre un problema mitjanant un nombre finit d’operacions, o ms tcnicament «una estructura de control composta finita, abstracta, efica, donada de manera imperativa, que aconsegueix un propsit determinat sota disposicions determinades» (Hill, Robin K., “What an Algorithm Is”, Philos Technol 29 (1), 2016, p. 47). A través dels algoritmes és possible una gestió de la vida incomparablement més complexa que qualsevol forma de control coneguda fins ara i que no sa- bem com gestionar. Per potència, per velocitat i per intensitat, la modificació que la robòtica ha produït en tots els aspectes de la vida humana no t comparaci amb cap altra poca en la histria. La tradici occidental, que des del Gnesi es proposava dominar/administrar la terra i la realitzaci prctica d’aquest domini a travs de la idea il·lustrada del progrs tecnolgic, sembla haver arribat a la seva culminaci a travs dels algoritmes que duen amb ells una gesti d’una vida (ara s!) definitivament racionalitzada i on l’eficcia de l’acció es maximitza cada cop més.

La gestió algorítmica de la vida no és una quimera sinó una realitat que provoca malfi- ança perqu no tenim eines de control social que la limitin. Comprendre els canvis mentre estem canviant, reparar el vaixell en mig de la tempesta, resul- ta una tasca potser excessiva, però segurament és l’imperatiu tic ms urgent ara mateix.

Perdre la capacitat de comprensió del món va molt més enllà de perdre l’autonomia humana. Amb algoritmes, emprant eines d’aprenentatge au- tomàtic (i sovint «de caixa negra», val a dir, mecanismes als que l’usuari no pot accedir), s’est realitzant la intuci del vell Leibniz quan deia que arribaria el moment que els homes ja no discutirien sin que calcularien i aix significa un novum radical en la història de la humanitat amb un abast que encara estem lluny de comprendre per- què implica una transformació d’arrel de la nostra concepci de la llibertat i de l’autonomia. Fascinats i entretinguts com estem per les aplicacions lúdiques de la informàtica a la vida quotidiana, ben poca gent recorda l’exercici del poder sense regles sempre ha estat una caracterstica del totalitarisme. La barreja d’un gran poder i una immensa ceguesa s un perill que sembla no importar gaire socialment parlant. En el món del Big Data no hi ha només problemes d’enginyeria sin de societat.

Que el canvi tecnològic s’estigui produint sense control social, ni regles morals i poltiques per a gestionarlo implica un perill social i emocional significatiu.

L’homo technologicus que hem estat sempre ha transformat finalment la natura i per als més pessimistes podem estar al caire mateix de l’autodestrucci si com a civilitza- ci no ens fem capaos d’entendre els termes (i els límits) de la nostra a dependència respecte a les eines en què hem delegat la gestió de les nostres petites vides.

La robòtica i els ordinadors es van estructurar i van créixer sense que ningú determinés prèviament unes regles del seu ús, una mica com les ciutats incòmodes i mal construïdes que creixen al seu aire i sense planificaci (cosa que ja lamentava Descartes). Les regles han vingut desprs i aix ex- plica en bona part que quan els usuaris no saben quin sn els lmits i els drets que regeixen els terri- tori se sentin desprotegits i temorosos.

Contra el que temen els tecnòfobs, la tecnologia té una clara tendència a resoldre els problemes que ella a mateixa provoca. El programa progressista de la Il·lustraci –que fins ara ha estat el més exitós en la història de la humanitat, malgrat les aparences– implica una confiana bsica en la racionalitat tecnolgica i s un fet provat que els problemes provocats per la cincia sempre s’han resolt a travs de més i millor ciència i no amb l’enyor d’un passat, ni amb la prohibici de la investigaci en rees diguem-ne perilloses o moralment farcides d’indecisions i dubtes. Milito entre els qui defensen que abandonar el programa de la Il·lustraci i la idea de progrés és un error greu i podria tenir conseqüències fatals.

La informàtica, com qualsevol altra tecnologia no farà per ella sola que món sigui just o bo, però aspira a regir-se per regles raonables i, per tant, bàsicament morals. Que una regla sigui raonable signi- fica senzillament que la seva aplicació té moltes (però moltes....) més conseqüències positives que negatives i no nega que la seva utilitat sigui parcial o imperfecta. D’aqu la necessitat d’una gesti tica de les dades, que si bé no garanteix la justícia o la bondat d’un algoritme, procuri com a mnim, estalviar (-nos) biaixos i inconseqüències.


Ramon Alcoberro, Ex Machina. Ètica, Big Data, Algoritmes i Robots, Edicions Enoanda 2022

Comentaris

Entrades populars d'aquest blog

Percepció i selecció natural 2.

The End.

El concepte porta ja una generalitat (Rafael Sánchez Ferlosio).