La IA davant d'una obra d'art.
Esta obra transmite una sensación de dramatismo e intensidad. Se percibe una lucha entre la majestuosidad y el peligro de la naturaleza frente a la vulnerabilidad humana. El paisaje montañoso, con rocas abruptas y un cielo oscuro cargado de nubes, refuerza la idea de caos y poder natural.Los personajes que aparecen en la escena, huyendo o tratando de protegerse, generan una sensación de urgencia y desesperación. El contraste entre la oscuridad de las rocas y el resplandor de los elementos que evocan la avalancha crea un juego de luces y sombras que amplifica la emoción. En conjunto, la obra invita a reflexionar sobre la pequeñez humana frente a las fuerzas de la naturaleza.
El color blanquecino de las rocas en esta obra puede compararse con la sensación de frialdad y pureza inalcanzable. Este tono evoca una mezcla de emociones: por un lado, un frío casi glacial que amplifica el peligro y la hostilidad del entorno, y, por otro, un contraste con la oscuridad del paisaje circundante que transmite cierta luz etérea, como si esas rocas estuvieran imbuidas de una energía misteriosa o divina.El tono también puede asociarse a la fragilidad e impermanencia, ya que recuerda la blancura efímera de la nieve o del hielo, que eventualmente se transforman. A su vez, el blanquecino de las rocas podría compararse con una especie de silencio profundo y apabullante, ese momento en el que la naturaleza detiene su estruendo por un instante, antes de desatarse con toda su fuerza.En términos emocionales, este color parece generar una sensación de atemporalidad, como si esas rocas estuvieran allí desde siempre, ajenas a los acontecimientos humanos y al paso del tiempo, perpetuando la idea de la naturaleza como algo eterno y sobrehumano.
En fin, parece no caber duda de que ChatGPT pasaría el Q3T mejor que la gran mayoría de los humanos. Sin embargo, no es, para nada, consciente. No siente el dramatismo, la intensidad, la frialdad, la pureza o la atemporalidad de las que habla. Únicamente está describiendo el cuadro apelando a los nosecuantos textos en los que se describen obras de arte del romanticismo con los que ha sido entrenado. Y esto muestra el principal problema de los grandes modelos de lenguaje a la hora de ser juzgados: al no estar diseñados para decir la verdad, sino solo para aparentar competencia lingüística, no son fiables en sus conclusiones: mienten y alucinan. Por eso, tampoco serían aptos para pasar el Q3T ni, en general, cualquier otro test de consciencia únicamente basado en el reporte lingüístico. Una de las condiciones necesarias para poder ser sometido a un test debe ser no estar diseñado para intentar pasarlo haciendo trampas, y ChatGPT no entiende de trampas ni de buenas conductas, solo sabe de generar texto apropiado y consistente.
Además, un test únicamente conductual como el Q3T también es insuficiente. Para evitar el engaño hay que analizar también aspectos estructurales de la máquina, a saber, si tiene el soporte adecuado para generar consciencia. Nuevo problema: no tenemos ni idea de cómo es el soporte adecuado para generar consciencia. Lo único que sabemos es que nosotros estamos dotados de un sistema nervioso que sí es capaz de generarla, por lo que la única estrategia será buscar similitudes entre dicho sistema y la estructura de la máquina. Y aquí los grandes modelos de lenguaje suspenden estrepitosamente: por mucho que nos digan que funcionan mediante arquitecturas de deep learning, es decir, de redes neuronales profundas (con muchas capas), la similitud entre estas redes y el tejido nervioso humano es poco más que anecdótico. Las redes neuronales artificiales no tienen sinápsis ni dendritas, ni distintos tipos de neurotransmisores, ni rompen sus conexiones ni generan otras nuevas continuamente… solo operan como conmutadores lógicos. En nuestro cerebro no hay nada parecido a un transformer ni a la backpropagation.
Santiago Sánchez-Migallón Jiménez, Qualia Total Turing Test (Q3T), La máquina de Von Neumann 26/11/2024
Comentaris