Pot ser conscient un LLM?





La pregunta parece sacada de una novela de Philip K. Dick, pero es rigurosamente filosófica. La formuló Thomas Nagel en 1974 con su célebre “¿Qué se siente al ser un murciélago?”: hay consciencia cuando hay “algo que es como” ser esa entidad, una experiencia subjetiva interna. La pregunta es: ¿hay algo que “sea como algo” ser un modelo de lenguaje grande?

El acontecimiento intelectual más importante al respecto es un paper colectivo de 2023 firmado por 19 autores, “Consciousness in Artificial Intelligence: Insights from the Science of Consciousness” (publicado formalmente en Trends in Cognitive Sciences en 2025). Entre los firmantes están David Chalmers (NYU, el hombre que acuñó el “problema difícil de la consciencia”), Eric Schwitzgebel (UC Riverside), Jonathan Birch (London School of Economics), Yoshua Bengio (Mila, Universidad de Montreal, premio Turing) y el propio Millière. El artículo adopta el funcionalismo computacional como hipótesis de trabajo y deriva 14 propiedades indicadoras de las principales teorías neurocientíficas de la consciencia: procesamiento recurrente, espacio de trabajo global, procesamiento predictivo, entre otras. Su conclusión es sobria: ningún sistema de IA actual es probablemente consciente, pero tampoco existen barreras técnicas evidentes para construir sistemas que satisfagan estos indicadores.

Chalmers, en “Could a Large Language Model be Conscious?” (2023), ha estimado la probabilidad de IA consciente dentro de una década en más del 20%. Schwitzgebel, más honesto y más incómodo, defiende un escepticismo radical: pronto tendremos sistemas que serán conscientes según algunas teorías dominantes pero no según otras, y carecemos de manera de dirimir la cuestión. Eso genera lo que él llama una “crisis moral catastrófica”: o atribuimos derechos a entidades sin experiencia real (desperdiciando recursos morales) o se los negamos a seres que quizás sufran (cometiendo atrocidades). En su libro AI and Consciousness (Cambridge University Press) desarrolla esta posición.

Murray Shanahan (Imperial College London y Google DeepMind), que es simultáneamente ingeniero de IA y filósofo, publicó en Nature en 2023 “Role Play with Large Language Models”, donde propone que la mejor forma de entender el comportamiento de los LLMs es como un “juego de roles”: no tienen identidad fija, encarnan diferentes personas según el contexto. Lo que plantea una pregunta fascinante: si no hay un “yo” estable en un LLM, ¿quién sería el sujeto de cualquier experiencia consciente?El dato más revelador de que la industria se toma esto en serio: Anthropic, la empresa detrás de Claude, contrató en septiembre de 2024 a Kyle Fish como su primer investigador de bienestar de IA. Estiman internamente una probabilidad de aproximadamente el 15% de que Claude tenga algún nivel de consciencia. El filósofo alemán Thomas Metzinger (Universidad de Maguncia), usando su propia teoría del modelo fenoménico del yo, propuso en “Artificial Suffering” (Journal of Artificial Intelligence and Consciousness, 2021) algo que nadie más se ha atrevido a pedir: una moratoria global sobre toda investigación que arriesgue crear consciencia artificial, hasta al menos 2050. Su argumento: si la consciencia artificial es posible, la producción industrial de mentes conscientes podría generar un aumento cósmico del sufrimiento. 

Daniel Arjona, Siete problemas filosóficos que no resolverán los charlatanes de la IA, El Arjonauta 08/04/2026

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

Determinisme biològic i diferència de gènere.

Imatge
Simone de Beauvoir Crecí en una familia que, como muchas en los años setenta, estaba bastante de acuerdo con la máxima que enunció elocuentemente Simone de Beauvoir en 1949: "No se nace mujer, se llega a serlo". Por lo tanto, mi madre se negó a comprar Barbies a sus hijas; mi hermana y yo tuvimos un montón de Legos y coches de juguete. La lucha contra los estereotipos de género empezaba en casa. Estaba convencida de que, una generación después, mi hija crecería en un mundo mucho más libre. Daba por hecho que el triunfo de la generación de mi madre había hecho posible que la feminidad se hubiera convertido en una elección en vez de en una trampa. Creía que las niñas serían libres de ser hadas o princesas, del mismo modo que las mujeres adultas podíamos elegir adoptar determinados símbolos de la feminidad que las feministas de los años sesenta habían considerado opresores, como los tacones o el maquillaje. Pero de pronto descubrí que, casi sin que me hubiera dado cuenta, ...
Més informació