L'amenaça de la Intel·ligència artificial.
| Sam Altman |
El dissabte 25 de juliol de 2026, el cap d'OpenAI, Sam Altman, va declarar que la IA ha arribat a "la singularitat". Mentre Altman emfatitzava que la singularitat pot ser bona per al món, el seu comentari va despertar preocupació: molts experts no estan d'acord que hàgim arribat a la singularitat, o que la IA estigui a punt de superar la intel·ligència humana o de robar-nos la feina. Però la principal preocupació és que la IA ja és capaç de millorar-se de manera autònoma. La "singularitat" es percep com el punt en què serà difícil per als humans controlar o revertir el desenvolupament de la IA, i això podria tenir efectes imprevisibles sobre la civilització humana. Un cop la IA guanyi el control del seu propi desenvolupament, els avenços tecnològics resultants podrien ocórrer tan ràpidament que els humans no podrien seguir el ritme, deixant-la evolucionar per si sola, fora del control humà (1).
El 2025, Altman va predir que la IA superaria la intel·ligència humana en tots els àmbits el 2030. Després, durant una aparició recent al podcast Relentless , una sèrie documental "sobre la recerca d'idees inversemblants i aspiracions inusuals", Altman va dir:
«Ara som, com, en la singularitat. Ara som realment en el moment del qual abans parlàvem a taula de dinar d'una manera gens seriosa. /.../ He estat esperant això tota la vida, i crec que serà increïble, enormement positiu, fantàstic per al món.»
Entre les veus crítiques, Anthropic, l'empresa darrere del chatbot Claude, va demanar a les principals empreses d'IA del món que dissenyessin una manera coordinada d'aturar el desenvolupament de sistemes d'IA avançats, advertint que la tecnologia està millorant tan ràpidament que hi ha el risc que els humans en perdin el control. En una entrada de blog del 4 de juny, Anthropic, que durant molt de temps s'ha posicionat com un laboratori d'IA centrat en la seguretat, va escriure que a mesura que la IA esdevé més avançada, "seria bo que el món tingués l'opció d'alentir o aturar temporalment" el seu desenvolupament.(2)
El problema, és clar, és que no hi ha cap agència mundial capaç d'imposar aquesta pausa: molts estats estan desenvolupant la IA, i cadascun d'ells sospita que els altres, fins i tot si accepten públicament la pausa, continuaran en secret a tota velocitat. En una situació així, l'única conclusió lògica és que jo faci el mateix.
Part de l'amenaça de la IA, doncs, no resideix en la tecnologia com a tal, sinó en les relacions socials dins de les quals es produeixen les màquines d'IA: vivim en un univers de competència i sospita global que ens impedeix sortir de la lògica destructiva del dilema dels presoners. Tot i que sabem racionalment que la solidaritat i la col·laboració són millors per a tots els participants, l'enfocament capitalista en el benefici privilegia la desconfiança envers els altres: percep els altres com a amenaces potencials que utilitzaran la nostra confiança com a excusa per atacar-nos encara més brutalment.
D'altra banda, hi ha qui pensa que som lluny d'una "singularitat" quasi divina. En cert sentit, potser tenen raó, ja que es tracta del significat precís de la singularitat. Crec que el que Altman descriu com a singularitat és un fenomen relativament modest: simplement significa que els agents d'IA han adquirit les seves pròpies dinàmiques, que no podem controlar ni contenir.
Hi ha dos nivells molt més poderosos que puc imaginar. Primer, la IA esdevé tan forta que nosaltres —els humans— no només no la podem contenir, sinó que pren el control directe i obert de les nostres vides, fent-nos xantatge perquè ens sotmetem. En segon lloc, hi ha la possibilitat de Neuralink: un enllaç directe entre el flux dels nostres pensaments i un agent digital, cosa que significaria que l'agent d'IA, i aquells que el controlen, podran llegir les nostres ments directament.
Slavoj Zizech, Per què el continuament no és suficient?, Zizech goads and prods 26/08/2026
Vegeu l'op.cit.
Comentaris