Els perills d'externalitzar els nostres cervells.

Estamos hechos de esperanza y horror por nosotros mismos, de principio y fin, de alba y crepúsculo, y también de noche, magia, memoria, deseo y fantasmas. No nos hemos despojado aún del bárbaro, cruel, codicioso animal humano que somos, cuando entramos en pánico por la máquina artificial que seremos. Y eso que desde el principio los occidentales nos imaginamos ser arte-factos, juguetes feroces con alma, creados por un dios artesano e inmaterial que se aburría, no fuera cosa que nuestra especie, sin la esperanza de un cielo ni el temor al diablo, sin ética ni metafísica para consolar la muerte, acabara devorándose a sí misma. 

Después fue la metáfora de un dios relojero, y Descartes creyó que el humano era una máquina que piensa, a diferencia de la bête-machine sin conciencia y de la máquina artificial que ni siente ni piensa, mientras diseccionaba cadáveres buscando en la glándula pineal la residencia del alma inmortal, “algo —decía— extremadamente raro y sutil como un aliento, una llama o un éter”. En 1748 le replicó el pre-sadiano La Mettrie con El Hombre Máquina, afirmando que el alma, el pensamiento, no era más que un producto perecedero de la maquinaria corporal. Hoy, quienes aún separan cuerpo (software) y mente (hardware), sostienen que lo que llamábamos alma es un flujo y procesamiento de información que no tiene por qué asemejarse a la conciencia humana.

El impacto de la rápida evolución de la Inteligencia Artificial recuerda al generado por Darwin, cuando anunció que descendíamos del mono en el preciso momento en que máquinas cada vez más complejas alteraban de forma decisiva la vida cotidiana. Lo humano ya no podía ser definido sólo a partir de lo que nos distinguía del resto de seres vivos, de nuestras ficciones, monstruosas o espirituales, o de los autómatas mecánicos.

Si el ser humano había evolucionado desde la materia sin conciencia, «¡mira —decía Samuel Butler en 1871 en Erewhon—los avances que han logrado las máquinas en los últimos mil años!», Y se preguntaba: «¿No puede el mundo durar veinte millones de años más? Si es así, ¿en qué se convertirán al final? ¿No es más seguro cortar de raíz el problema y prohibirles seguir avanzando?». Butler temía que una nueva especie de máquinas autoconscientes, emancipadas y capaces de autorreproducirse, acabaran esclavizando o sustituyendo a la frágil especie de sus creadores, incapaces de vencer el tiempo, la maldad, la enfermedad o la muerte. Si el juguete humano dotado de conciencia se había rebelado contra los dioses y los había enviado al exilio, ¿no podían hacer lo mismo las nuevas especies? A no ser que fuera una ironía, como en la sátira de Heinrich Heine en la que un autómata persigue por toda Europa a su inventor, implorándole: «Give me a soul!, give me a soul!». El romántico alemán, que había leído a Mary Shelley y a Jean Paul, se burlaba del pensamiento mecanicista inglés, pero sobre todo expresaba la angustia de una Humanidad convertida en un enjambre de máquinas sin libertad y una vida vacía de sentido.

No han transcurrido veinte millones de años y Elon Musk piensa que «la Humanidad es el gestor biológico de arranque (biological bootlader) de la Superinteligencia Artificial». Los oligarcas tecnológicos se creen dioses que, como las divinidades del Olimpo en la Ilíada, juegan a su capricho con los juguetes humanos. Musk ayuda e impide a la vez que los ucranianos ataquen a la flota rusa de Crimea, Putin interviene en las elecciones norteamericanas y multitud de agencias privadas y estatales (chinas más que las de Silicon Valley) tienen acceso a un banco incalculable de datos privados para comerciar, vigilar y determinar opiniones, comportamientos y decisiones que los afectados adoptan creyendo que nacen de su libre albedrío, pues es sabido que la mejor manera de predecir comportamientos es inducirlos, determinarlos sin que lo parezca.

Lo que causa pavor no son las máquinas superinteligentes, espirituales o híbridas —tengan apariencia humanoide o transferido el cerebro al cuerpo mecánico de un computer—, ni siquiera la impunidad con la que multimillonarios, grandes corporaciones o gobiernos utilizan a su antojo ingeniería genética y tecnología de (des)información, sumisión y control, de manera más devastadora que religiones o ideologías totalitarias del pasado. 

A mí me preocupan más los tecnoliberticidas del pensamiento, la maquina de descerebrar. Si no es realista desmilitarizar unilateralmente la tecnociencia, porque, según el dilema de Oppenheimer, «si no lo tengo yo, lo tiene el enemigo», ¿cómo hacer cumplir, por poner sólo un ejemplo, el derecho a la libertad cognitiva, el único reducto de privacidad que nos queda, cuando tenemos pinchados nuestros móviles y ya hay experimentos para leer nuestras mentes a partir del noble fin de sanar a quienes son incapaces de andar, hablar o escribir?,  ¿o cuando las habilidades médicas para sanar los circuitos neuronales se utilizan para que los soldados maten con la gelidez de máquinas animales? ¿Son suficientes leyes como la recién aprobada por la Unión Europea sobre la Inteligencia Artificial, cuando faltan instrumentos de control democrático para hacerlas cumplir? 

Ahora que hemos dejado de creer que somos la única especie inteligente en un único universo, una amalgama de teorías de transhumanismo y posthumanismo revisitan los conceptos que perviven en el imaginario colectivo en torno a la Creación, y por eso es inevitable que haya un barullo de cientificismo y misticismo, liberalismo y altruismo, en la constitución de una tan nueva como falsa Teodicea que diseña otra definición ontológica del ser humano. El posthumanismo compasivo relacional puede ser igual de peligroso que el transhumanismo que se centra sólo en la fría razón instrumental de la neurociencia evolutiva. Por el bien de la Humanidad, un ideario, una etnia, una nación, una obsesió de perfección, se han dado los delirios más perversos y cometido los crímenes más atroces.

No creo que el programa humanista, el «sapere aude» de Horacio, aliado con la ciencia y la conciencia social, haya demostrado su fracaso. De la misma manera que no basta con agitar el espantajo de los nuevos autoritarismos, si antes no se reparan y prestigian los desvencijados sistemas democráticos para garantizar una vida digna en un mundo más habitable, tampoco basta con demandar un control ético de la propiedad y uso de la tecnología, si no se contrarrestan activamente las estrategias de desculturización masiva que nos reconducen dócilmente a la granja humana. Humanos que externalizan sus cerebros (y la forma de pensar) en máquinas delirantes. A este paso, una tostadora tendrá más inteligencia que un alumno de bachillerato.

Josep Massot, Los dioses tecnológicos juegan con juguetes humanos, El Boomeran(g) 31/12/2023