Quién debe gobernar al algoritmo?





El “problema del alineamiento” es hoy la obsesión central de la industria de la IA: ¿cómo asegurarse de que los sistemas de inteligencia artificial hagan lo que queremos? Pero hay una pregunta previa que casi nadie se hace: ¿quién decide qué es lo que “queremos”? ¿Y con qué autoridad?

Seth Lazar (Johns Hopkins), filósofo político que fundó el MINT Lab, ha producido la intervención más penetrante. Sus Tanner Lectures en Stanford (2023), publicadas como “Governing the Algorithmic City” en Philosophy & Public Affairs (2025), introducen el concepto de la “Ciudad Algorítmica”: la red de relaciones sociales mediadas por algoritmos en la que ya vivimos. Su insight crucial es que el alineamiento de IA tal como se practica hoy aborda solo la pregunta “qué” (que el sistema produzca respuestas buenas) mientras ignora el “cómo” (¿es legítimo el proceso por el que se decide qué es “bueno”?) y el “quién” (¿quién tiene autoridad para decidirlo?). Dicho de otro modo: un puñado de ingenieros y ejecutivos en San Francisco está decidiendo los valores morales que gobernarán los sistemas con los que interactúan miles de millones de personas, sin consultar a nadie.

Amanda Askell (Anthropic), filósofa con doctorado en NYU especializada en ética infinita, diseñó la “Constitución” de 20.000 palabras que gobierna el comportamiento de Claude. Fue nombrada una de las TIME 100 AI en 2024. Es quizás el ejemplo más puro de filosofía que moldea directamente un sistema de IA. Iason Gabriel (Google DeepMind, doctorado en filosofía moral por Oxford) publicó en Minds and Machines(2020) el mapa de referencia del alineamiento de valores, “Artificial Intelligence, Values, and Alignment”, donde aplica categorías rawlsianas al problema. Markus Kneer y Dustin Viehoff presentaron en FAccT (2025) un artículo empírico demoledor: los humanos tienen desacuerdos morales profundos y sistemáticos sobre cuestiones básicas de agregación (¿se pueden sumar sufrimientos? ¿vale más salvar a muchos que a pocos?), lo que significa que el alineamiento no puede converger hacia un marco moral único. El pluralismo es una condición estructural.

Daniel Arjona, Siete problemas filosóficos que no resolverán los charlatanes de la IA, El Arjonauta 08/04/2026

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

Determinisme biològic i diferència de gènere.

Imatge
Simone de Beauvoir Crecí en una familia que, como muchas en los años setenta, estaba bastante de acuerdo con la máxima que enunció elocuentemente Simone de Beauvoir en 1949: "No se nace mujer, se llega a serlo". Por lo tanto, mi madre se negó a comprar Barbies a sus hijas; mi hermana y yo tuvimos un montón de Legos y coches de juguete. La lucha contra los estereotipos de género empezaba en casa. Estaba convencida de que, una generación después, mi hija crecería en un mundo mucho más libre. Daba por hecho que el triunfo de la generación de mi madre había hecho posible que la feminidad se hubiera convertido en una elección en vez de en una trampa. Creía que las niñas serían libres de ser hadas o princesas, del mismo modo que las mujeres adultas podíamos elegir adoptar determinados símbolos de la feminidad que las feministas de los años sesenta habían considerado opresores, como los tacones o el maquillaje. Pero de pronto descubrí que, casi sin que me hubiera dado cuenta, ...
Més informació