Els LLMs són eines o agents morals?



La pregunta parece abstracta pero tiene consecuencias decisivas. Si un LLM es un artefacto (como una calculadora o un coche), la responsabilidad moral y legal recae en su fabricante y su usuario. Si es un agente (como un empleado o un animal), podría tener intereses propios, derechos y quizás hasta obligaciones. La diferencia entre una respuesta y otra define regímenes regulatorios enteros.

Joanna Bryson (Hertie School, Berlín) defiende con vehemencia la posición del artefacto. Bryson es una rareza: tiene formación en psicología (Chicago, Edimburgo) y en IA propiamente dicha (Edimburgo, MIT), ha construido modelos computacionales y publicado en Science. Su posición se resume en una frase que ha repetido durante dos décadas: “Los robots son propiedad. Los propietarios son responsables”. Nada de personificación, nada de derechos para máquinas. Las IA son herramientas sofisticadas y los humanos que las despliegan deben responder por lo que hagan. La virtud de esta posición es que asigna responsabilidad de manera inequívoca. Su limitación es que puede convertirse en un dogma si los sistemas alcanzan niveles de sofisticación que la hagan moralmente insostenible.

Mark Coeckelbergh (Universidad de Viena) propone un enfoque relacional inspirado en la fenomenología: el estatus moral no depende de propiedades intrínsecas (¿tiene consciencia? ¿sufre?) sino de las relaciones dentro de las cuales existe la entidad. Es una idea interesante que proviene de la ética animal y de la filosofía de Martin Buber.

El debate tiene una urgencia creciente. Robert Long (Center for AI Safety), Jeff Sebo(NYU) y Butlin, entre otros, publicaron en 2024 un paper de referencia sobre “bienestar de la IA” que argumenta que, si los sistemas de IA llegaran a ser agentes morales genuinos, las consecuencias serían enormes: cada instancia de un modelo ejecutándose en miles de servidores podría ser un sujeto moral independiente. La escala del problema potencial es vertiginosa.

Daniel Arjona, Siete problemas filosóficos que no resolverán los charlatanes de la IA, El Arjonauta 08/04/2026

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

Determinisme biològic i diferència de gènere.

Imatge
Simone de Beauvoir Crecí en una familia que, como muchas en los años setenta, estaba bastante de acuerdo con la máxima que enunció elocuentemente Simone de Beauvoir en 1949: "No se nace mujer, se llega a serlo". Por lo tanto, mi madre se negó a comprar Barbies a sus hijas; mi hermana y yo tuvimos un montón de Legos y coches de juguete. La lucha contra los estereotipos de género empezaba en casa. Estaba convencida de que, una generación después, mi hija crecería en un mundo mucho más libre. Daba por hecho que el triunfo de la generación de mi madre había hecho posible que la feminidad se hubiera convertido en una elección en vez de en una trampa. Creía que las niñas serían libres de ser hadas o princesas, del mismo modo que las mujeres adultas podíamos elegir adoptar determinados símbolos de la feminidad que las feministas de los años sesenta habían considerado opresores, como los tacones o el maquillaje. Pero de pronto descubrí que, casi sin que me hubiera dado cuenta, ...
Més informació