La IA pot provocar una catàstrofe civilitzatòria?




Aquí el paisaje se ha polarizado hasta la caricatura. En un extremo, el rey doomer Eliezer Yudkowsky (Machine Intelligence Research Institute), quizás la figura más influyente del movimiento de “AI safety”, estima la probabilidad de catástrofe civilizatoria en aproximadamente el 99,5%. En su libro con Nate Soares, Si alguien la crea, todos moriremos (Destino), argumenta que la tesis de ortogonalidad (inteligencia y objetivos son independientes) y la convergencia instrumental (agentes inteligentes diversos convergen en comportamientos de búsqueda de poder) hacen el alineamiento esencialmente irresoluble. Las reseñas técnicas, incluida una demoledora de Ben Goertzel (creador de SingularityNET), señalan que Yudkowsky antropomorfiza la inteligencia y que su estilo epistémico tiene un tono cuasi-religioso.

En el otro extremo, Nick Bostrom, el filósofo sueco de Oxford cuyo muy influyente Superinteligencia (2014) inauguró prácticamente el campo (con su aterrador y banal experimento mental del maximizador de clips), ha girado sorprendentemente hacia un optimismo condicional. Su último libro, Deep Utopia (2024), que reseñé aquí, ya no pregunta cómo sobrevivir a la IA sino qué daría sentido a la vida si la tecnología resolviera todos los problemas. Se define ahora como “un optimista preocupado”. Hay que añadir que el Future of Humanity Institute que fundó fue cerrado por la Universidad de Oxford en abril de 2024 por lo que Bostrom describió como “muerte por burocracia”.

La contribución teórica más fina de los últimos meses la ha hecho Atoosa Kasirzadeh (Carnegie Mellon, antes investigadora en DeepMind), que en Philosophical Studies (2025) distingue dos tipos de riesgo existencial de la IA: los “decisivos” (catástrofe súbita provocada por una superinteligencia descontrolada) y los “acumulativos” (erosión gradual de la autonomía humana, la gobernanza democrática y la capacidad de decisión colectiva). Esta distinción es crucial porque permite salir de la trampa binaria apocalípticos vs. integrados. La posición más defendible hoy es probablemente que los riesgos acumulativos son más inminentes y están mejor documentados que los decisivos, pero que estos últimos no pueden descartarse sin más.

Joe Carlsmith (Open Philanthropy, doctorado en filosofía por Oxford) ofrece quizás el análisis más sofisticado. Su serie de ensayos “Otherness and Control in the Age of AGI” (2024) introduce el concepto de “ateísmo profundo”, una desconfianza fundamental hacia la naturaleza como raíz de la preocupación por el riesgo de IA, y examina cómo el impulso hacia el control total tiene sus propias patologías. Su conexión con La abolición del hombre de C.S. Lewis ilumina lo que se pierde cuando controlamos los valores futuros con demasiada rigidez.

Daniel Arjona, Siete problemas filosóficos que no resolverán los charlatanes de la IA, El Arjonauta 08/04/2026

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

Determinisme biològic i diferència de gènere.

Imatge
Simone de Beauvoir Crecí en una familia que, como muchas en los años setenta, estaba bastante de acuerdo con la máxima que enunció elocuentemente Simone de Beauvoir en 1949: "No se nace mujer, se llega a serlo". Por lo tanto, mi madre se negó a comprar Barbies a sus hijas; mi hermana y yo tuvimos un montón de Legos y coches de juguete. La lucha contra los estereotipos de género empezaba en casa. Estaba convencida de que, una generación después, mi hija crecería en un mundo mucho más libre. Daba por hecho que el triunfo de la generación de mi madre había hecho posible que la feminidad se hubiera convertido en una elección en vez de en una trampa. Creía que las niñas serían libres de ser hadas o princesas, del mismo modo que las mujeres adultas podíamos elegir adoptar determinados símbolos de la feminidad que las feministas de los años sesenta habían considerado opresores, como los tacones o el maquillaje. Pero de pronto descubrí que, casi sin que me hubiera dado cuenta, ...
Més informació