Humà i Màquina. Causalitat i Correlació.

Los humanos razonamos causalmente, es decir, imaginamos contrafácticos y buscamos las explicaciones, las causas de los sucesos. Por el contrario, los LLMs (solo encuentran patrones, correlaciones, no explicaciones causales. Y todo hombre de bien con una mínima formación epistemológica (tristemente, algo que hoy no abunda) tiene tatuado en el cerebro la máxima: Correlación no implica causalidad. Que dos fenómenos estén correlacionados temporalmente no implica que tengan ninguna relación (Necesariamente hay que ver las divertidas correlaciones espurias de Tyler Vigen), y que los LLMs no sean capaces de ver esto es de suma gravedad: Pueden cometer errores de bulto. Y es que esto es una limitación esencial de los sistemas estadísticos. Si solo operas basándote en frecuencias estadísticas, solo puedes encontrar correlaciones. 

... el tema de la causalidad es otro problema que ha atravesado la historia de la filosofía sin solución aparente. Habría autores que defenderían que la causalidad no existe, que todo son correlaciones. Así, desde la clásica negación moderna de David Hume, tendríamos también a autores más contemporáneos como Ernst Mach o Bertrand Russell, o, en la actualidad, a van Fraassen quienes, mutatis mutandi, niegan la realidad ontológica de la causalidad. Y es que la pregunta sigue en pie: ¿Cómo los humanos diferenciamos la causalidad de la mera correlación? En teoría porque encontramos mecanismos causales, pero no siempre ocurre así. Cuando llueve, yo creo que la causa de las gotas que caen sobre mí son las nubes, pero puedo ignorar perfectamente el mecanismo físico que causa la lluvia. Es más, creo que en gran parte de lo que hacemos en nuestra vida cotidiana, ignoramos los mecanismos causales, más cuando estamos rodeados de complejos artefactos tecnológicos ¿Alguien sabría describir con precisión el mecanismo causal que va desde que enciendes la tele hasta que aparece el logo de Netflix? Si nosotros solo operamos por correlaciones en la mayoría de nuestras acciones y si en una gran mayoría de veces las correlaciones implican causalidades, una máquina que solo opera por correlaciones será competente en la mayoría de los casos. Por eso ChatGPT es tan bueno en la mayoría de los casos. Pero sí, todavía tenemos la asignatura pendiente de enseñar a pensar causalmente a las máquinas. Correlación y causalidad son dos formas diferentes de pensar.

Santiago Sánchez-Migallón Jiménez, Siete fracturas (II). La Epistemia, La máquina de von Neumann 29/12/2025