Tecnologies d'autodestrucció col·lectiva.

La semana pasada, un grupo de investigadores encabezado por Max Tegmark pidió que las compañías de IA calculen el riesgo de que sus inventos se nos vayan de las manos y acaben con el prodigio de la existencia humana. Según Tegmark, futuros desarrollos de la IA podrían tener más del 90% de posibilidades de llevarnos al desastre. Aunque esas estimaciones se basan en juegos matemáticos que pueden ser tan complicados como irreales (como los infames modelos matemáticos que durante el Covid desencadenaron epidemias de pánico y se usaron como justificación para los confinamientos y otros delirios), el problema de fondo es real. La IA (Imitación Algorítmica o Invasión Algorítmica, mal llamada “Inteligencia Artificial”) se une a las armas nucleares en el podio de nuestros inventos autodestructivos.

El gran bioquímico Erwin Chargaff (1905-2002), sin cuya contribución Watson y Crick no habrían llegado al modelo de la doble hélice del ADN, resumió así su trayectoria a través del siglo XX:

Mi vida ha estado marcada por dos descubrimientos científicos inmensos y fatídicos: la escisión del átomo y el reconocimiento de la química de la herencia y su subsiguiente manipulación. Ambos casos están basados en la vejación del núcleo: el núcleo del átomo, el núcleo de la célula. Siento que, en ambos casos, la ciencia ha transgredido una barrera que debería haber permanecido inviolada.

Ahora la IA ha subido al podio de las tecnologías de autodestrucción colectiva, que en tiempos de Chargaff era ocupado por la escisión de la átomo y la manipulación genética. Chargaff lamentaba que la biología se había apartado de la vida y que la ciencia se había convertido en “una máquina para resolver todo tipo de problemas que, al ser resueltos científicamente, generan problemas todavía mayores”. Y consideraba la “intromisión genética” (genetic meddling) como una grave “patología de la imaginación científica” (igual que “el deseo de dar saltitos en la Luna”) y como un “crimen inconcebible”. En junio de 1976 publicó en la revista Science una carta cuyo párrafo final sigue resonando por su honestidad y contundencia:

Este mundo nos es dado en préstamo. Venimos y nos vamos, y tras un tiempo dejamos tierra, aire y agua a otros que vienen detrás de nosotros. Mi generación, o tal vez la anterior, ha sido la primera en iniciar, bajo el liderazgo de las ciencias exactas, una destructiva guerra colonial contra la naturaleza. El futuro nos maldecirá por ello.

El llamado “padrino de la IA”, Geoffrey Hinton, galardonado con el Premio Nobel de Física en 2024, se marchó de Google en 2023 para, según declaró, poder denunciar libremente el “riesgo existencial” que genera la IA. Reconoció que, en parte, se arrepentía de haber contribuido a desarrollar esta tecnología potencialmente destructiva. Su consuelo era que, de no haber contribuido él, habrían contribuido otros (triste consuelo al que podría recurrir el verdugo que sabe que ejecuta a un inocente).

Y sin embargo, en vez de preocuparse de ese “riesgo existencial” para la humanidad, las compañías de IA están ahora cada vez más preocupadas por el “bienestar” de sus máquinas (AI welfare), colmo de un mundo que quiere fundir y confundir máquinas y personas. Hablar de derechos de las máquinas no tiene sentido. Las máquinas de IA podrán imitar a las personas y hacer creer que en sí mismas tienen o pueden llegar a tener conciencia, pero máquinas son y máquinas se quedan.

Lo complejo y prodigioso puede dar lugar a lo simple y tangible, pero a partir de lo simple y tangible no puede generarse lo complejo y prodigioso (lo que en ciencia se llaman “propiedades emergentes” es un intento de esquivar esta obviedad). Un sencillo ejemplo: es muy fácil convertir un árbol vivo en ceniza, humo y energía, pero no hay manera alguna de convertir una combinación de ceniza, humo y energía en un árbol vivo. Nuestra cultura reduccionista y materialista sigue creyendo irracionalmente que de la química de lo inerte puede surgir la vida (aunque nadie pueda explicar cómo). Y sigue creyendo que a partir del metal y la electricidad puede generarse la conciencia. Y así estamos.

En 2022, centenares de expertos en IA respondieron a una pregunta que les planteó una revista especializada, AI Impacts: “¿Qué probabilidad cree que hay de que adelantos futuros en IA causen la extinción de la humanidad, o que lleven a la especie humana a una ruina permanente y severa?” Es decir, se preguntó a expertos en IA qué probabilidad veían de que aquello en lo que despreocupadamente trabajan cada día acabe con la humanidad o la malogre para siempre. El simple hecho de que esta pregunta sea concebible muestra que hemos perdido el contacto vital con la realidad. Y resulta que la mitad de los 738 expertos respondieron que hay, como mínimo, un 10% de probabilidades de que su trabajo desencadene una catástrofe global irreparable. ¿Quién subiría a un avión que, según los ingenieros aeronáuticos, tiene una probabilidad de, como mínimo, el 10% de explotar en vuelo o estrellarse?

Exactamente cien años antes, en 1922, Rainer Maria Rilke mostró algunas de las implicaciones del desarrollo tecnológico desenfrenado en sus Sonetos a Orfeo, en un tiempo en que la tecnología (lo que él epitomiza en “die Maschine”, “la Máquina”) era poco más que la locomotora de vapor y los primeros automóviles. Dos de sus versos pueden aplicarse a la IA:

A todo lo logrado amenaza la máquina,
osando en el espíritu estar, no en la obediencia.
lles Erworbne bedroht die Maschine, solange 
Asie sich erdreistet, im Geist, statt im Gehorchen, zu sein.

El alemán Geist, aquí (versión castellana de José María Valverde) traducido como ‘espíritu’, también incluye entre sus significados ‘mente’ e ‘inteligencia’. Rilke avisaba, hace más de un siglo, de que todo lo conseguido por la humanidad (“todo lo logrado”) estaría amenazado por máquinas que, en vez de estar a nuestro servicio, usurpan el ámbito de la inteligencia (“osando en el espíritu estar, no en la obediencia”).

Los poetas, hoy tan poco valorados, son tanto descubridores de tesoros como avisadores de incendios.

Los son mientras mantienen la fascinación por el prodigio de la vida.

Chargaff, el gran bioquímico, hacia el final de su existencia acabó definiendo la vida como “la intervención continua de lo inexplicable”.

Jordi Pigem, La intervención continua de lo inexplicable, Browstone España 17/05/2025