Entenen els LLMs (Models de LLenguatge Gran)?




Es el gran debate filosófico de la década y conviene entender bien qué se discute. Cuando le pedimos a ChatGPT que nos explique la crisis del 29 y recibimos una respuesta impecable, ¿ha entendido algo o se ha limitado a calcular qué palabra es estadísticamente más probable después de la anterior?

Hablemos de loros. La posición escéptica la fijó un paper célebre de 2021 firmado por Emily Bender (lingüista computacional de la Universidad de Washington), Timnit Gebru, Angelina McMillan-Major y Margaret Mitchell: “On the Dangers of Stochastic Parrots” (presentado en la conferencia FAccT). El título lo dice todo: los LLMs son “loros estocásticos” que “hilvanan secuencias de formas lingüísticas según información probabilística sobre cómo se combinan, pero sin referencia alguna al significado”. El paper fue de los primeros en advertir con razón sobre costes ambientales y sesgos en datos de entrenamiento, pero su caracterización filosófica ha envejecido mal. Bender es lingüista, no filósofa, y el paper hace afirmaciones fuertes sobre significado y comprensión sin dialogar en profundidad con la filosofía del lenguaje. Su influencia ha sido más política que filosófica.

La respuesta más rigurosa viene de dos filósofos que sí combinan formación técnica y filosófica. Raphaël Millière (ahora en Oxford, antes en Columbia y Macquarie) y Cameron Buckner (Universidad de Houston, autor de From Deep Learning to Rational Machines, OUP, 2024) publicaron en 2024 los dos papers más importantes sobre el tema: “A Philosophical Introduction to Language Models”, partes I y II. Son a la vez una introducción técnica para filósofos y un análisis que conecta los LLMs con debates clásicos sobre adquisición del lenguaje y fundamentación semántica. Su contribución más original es identificar lo que llaman la “falacia deflacionaria”: descartar que los LLMs comprendan simplemente porque sus operaciones consisten en cálculos estadísticos. Lo comparan con decir que un piano no puede producir armonía porque son solo martillos golpeando cuerdas.

Millière además publicó con Dimitri Coelho Mollo “The Vector Grounding Problem”(Philosophy and the Mind Sciences, 2026), donde reformulan el clásico problema de la fundamentación simbólica (¿cómo conectan los símbolos con el mundo?) para la era de las representaciones vectoriales. Distinguen cinco tipos de fundamentación, argumentan que solo la referencial es esencial y llegan a una conclusión sorprendente: la multimodalidad y la corporalidad (que el modelo tenga ojos y manos) no son ni necesarias ni suficientes para lograrla.

Melanie Mitchell, del Santa Fe Institute, quizás la voz más equilibrada de la discusión, propuso con David Krakauer en “The debate over understanding in AI’s large language models” (PNAS 2023) que necesitamos una “ciencia extendida de la inteligencia” capaz de reconocer “modos distintos de comprensión”. La pregunta binaria “¿entienden o no?” está mal planteada. Lo que necesitamos es investigar qué representan internamente estos sistemas, y eso empieza a ser posible gracias a la interpretabilidad mecanicista, que es en sí misma un nuevo campo filosófico.

Daniel Arjona, Siete problemas filosóficos que no resolverán los charlatanes de la IA, El Arjonauta 08/04/2026

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

Determinisme biològic i diferència de gènere.

Imatge
Simone de Beauvoir Crecí en una familia que, como muchas en los años setenta, estaba bastante de acuerdo con la máxima que enunció elocuentemente Simone de Beauvoir en 1949: "No se nace mujer, se llega a serlo". Por lo tanto, mi madre se negó a comprar Barbies a sus hijas; mi hermana y yo tuvimos un montón de Legos y coches de juguete. La lucha contra los estereotipos de género empezaba en casa. Estaba convencida de que, una generación después, mi hija crecería en un mundo mucho más libre. Daba por hecho que el triunfo de la generación de mi madre había hecho posible que la feminidad se hubiera convertido en una elección en vez de en una trampa. Creía que las niñas serían libres de ser hadas o princesas, del mismo modo que las mujeres adultas podíamos elegir adoptar determinados símbolos de la feminidad que las feministas de los años sesenta habían considerado opresores, como los tacones o el maquillaje. Pero de pronto descubrí que, casi sin que me hubiera dado cuenta, ...
Més informació