IA i sistemes emergents.





El ejemplo clásico es el de una colonia de hormigas. Un enorme conjunto de individuos en el que cada uno, a su bola, y probablemente sin tener conciencia de que pertenece a una comunidad, se comunica con los de alrededor mediante feromonas. Las hormigas son simples y tienen poca cognición, pero trabajando juntas realizan operaciones complejas y perfectamente coordinadas, sin que haya nadie al mando (la hormiga reina no manda a las obreras, solo pone huevos). Así aparece una suerte de mente colectiva que funciona como si todas esas hormigas conformasen un solo ser.

Esta cosa tan rara, que sucede cuando se suman las partes y sale algo más, algo inesperado y especial, son las llamadas propiedades emergentes, y pueden observarse desde el nivel molecular y hasta los sistemas sociales. No es fácil conectar ese comportamiento individual con el resultado general, sobre todo intuitivamente, porque no es un salto obvio de lo local a lo global.

No solo aparecen propiedades emergentes en las hormigas, sino en otros sistemas complejos, algunos muy familiares, como las bandadas de pájaros, los atascos de tráfico y el cerebro humano. Podemos conceptualizar el cerebro con una cantidad inimaginable de células conectadas en red, las neuronas, que intercambian impulsos electroquímicos. Por las extensiones de las neuronas se establecen potenciales eléctricos y, en sus sinapsis, el espacio que hay entre una y otra, se emiten y se reciben sustancias químicas llamadas neurotransmisores cuyos nombres nos suenan porque tienen que ver con el placer, la felicidad, la depresión o la adicción: dopamina, serotonina, oxitocina.

Pero lo más prodigioso del funcionamiento del cerebro no su mero funcionamiento físico, sino que de esa unión de neuronas aparece una propiedad emergente muy singular: la conciencia humana. De ese montón de chispazos y sustancias salen nuestros pensamientos, nuestro escenario mental, nuestras emociones y esa tenaz manía de considerar que somos unas personas, que somos nosotros mismos: el yo.

En la inteligencia artificial (IA), que tanto nos ocupa y preocupa últimamente, también emergen cosas. Le he preguntado al propio ChatGPT (y me fiaré esta vez) qué propiedades emergentes salen de la IA: la creatividad, la capacidad de aprender o la de hacer generalizaciones, dice la máquina. Etcétera. Como explica el científico y divulgador Javier Sampedro en una de sus últimas columnas de El País, ChatGPT, la IA en general, es, además de un invento humano, un objeto de estudio de los humanos, porque, aunque lo hayamos inventado, no lo comprendemos del todo. Hace cosas que no son como esperábamos. Cosas que vemos y decimos: “¡Hostia!”. La empresa OpenAI, creadora del famoso chat, ha identificado hasta 
137 “aptitudes emergentes”, que están ahí cuando no se las esperaba.

Alguna vez leí no sé dónde que la aparición de la conciencia humana ha sido un error en la evolución(que, en realidad, es ciega), un fallo del sistema universal (aunque eso implicaría que hay un plan universal). Que el universo podría haber funcionado perfectamente sin la presencia de una conciencia que observara al propio universo, y que, por lo demás, no parece haber aportado nada bueno. En cambio, en el lado malo, gracias a la conciencia sabemos que existimos y que existimos para morir. Y eso es una verdadera mierda, aunque tratemos de distraernos cada día. Somos arrojados al mundo, en palabras de Heidegger, y estamos aquí, sufriendo porque no encontramos explicación. No me parece que la idea del error sea descabellada. 

No está claro si la inteligencia artificial, con sus inquietantes propiedades emergentes, no vaya a ser también un “error”en el devenir cósmico, signifique eso que lo que signifique.

Sergio C. Fanjul, Las propiedades emergentes en la IA: esas cosas que nos hacen decir '¡hostia!', retinatendencias.com mayo 2023

Comentaris

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Gonçal, un cafè sisplau

"¡¡¡Tilonorrinco!!! ¡¡¡Espiditrompa!!!"