Interaccions humà-algoritme.

Imatge trobada amb la cerca visual


En la medida en que clasifican, procesan y realizan predicciones a partir de los datos, los algoritmos son políticos porque hacen que el mundo aparezca de un modo y no de otro. Muchos grupos se han dado cuenta de que las estructuras sociales están condicionadas por la decisión en favor de ciertos indicadores y criterios de valoración, incluidos los procedimientos automatizados.

Una vez que se hace pública la computación, los usuarios de alguna manera la domestican utilizándola de diversas maneras, subvirtiéndola incluso o reelaborándola (pensemos en el intento de los usuarios de gamificar el Google’s PageRank Algorithm). En este sentido, los algoritmos no son lo que crean los programadores sino también lo que los usuarios hacen de ellos cada día. El algoritmo configura el modo como se comportan los usuarios, pero, al mismo tiempo, lo que el algo­ritmo hace está condicionado por el input que recibe de los usuarios. La gente no solo obedece, sino que resiste, subvierte y transgrede el trabajo de los algoritmos, lo redesarrolla para objetivos que no coinciden con aquellos para los que fue ­diseñado.

Los algoritmos son entrenados para navegar en un conjunto masivo de datos haciendo uso de determinados conceptos o variables clave predefinidos, como “solvencia crediticia” o “individuo de alto riesgo”. El algoritmo no define estos conceptos por sí mismo; los seres humanos –desarrolladores y científicos de datos– eligen a qué conceptos recurrir, al menos como punto de partida inicial. Son las decisiones previas en torno a estas categorías las que tienen que ser revisables por la ciudadanía. Seguramente no se pueden aplicar a las decisiones algorítmicas los mismos criterios que valen para las decisiones humanas, pero sí que cabe situarlas en el espacio deliberativo en el que se sopesan decisiones y argumentos.

Las ideas de trasparencia y comprensión tienen todavía unas connotaciones de pasividad y no terminan de dejar un espacio para la intervención expresa de los afectados por las decisiones. El contenido de la explicación debe estar orientado no solo a la inteligibilidad de los usuarios, sino a posibilitar su intervención. El valor de la regulación de la transparencia de la inteligencia artificial consiste en generar conocimiento y suscitar el debate sobre la tecnología, motivar a los individuos a impugnar las decisiones basadas en ella y –a la larga– reforzar la aceptación social de la nueva tecnología. Como ocurre en la democracia en general, al contestar las decisiones algorítmicas, nosotros los que contestamos no arruinamos la tecnología, sino que contribuimos a aumentar su legitimidad.

Daniel Innerarity, La gente en la inteligencia artificial (III), La Vanguardia 11/04/2026

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

Determinisme biològic i diferència de gènere.

Imatge
Simone de Beauvoir Crecí en una familia que, como muchas en los años setenta, estaba bastante de acuerdo con la máxima que enunció elocuentemente Simone de Beauvoir en 1949: "No se nace mujer, se llega a serlo". Por lo tanto, mi madre se negó a comprar Barbies a sus hijas; mi hermana y yo tuvimos un montón de Legos y coches de juguete. La lucha contra los estereotipos de género empezaba en casa. Estaba convencida de que, una generación después, mi hija crecería en un mundo mucho más libre. Daba por hecho que el triunfo de la generación de mi madre había hecho posible que la feminidad se hubiera convertido en una elección en vez de en una trampa. Creía que las niñas serían libres de ser hadas o princesas, del mismo modo que las mujeres adultas podíamos elegir adoptar determinados símbolos de la feminidad que las feministas de los años sesenta habían considerado opresores, como los tacones o el maquillaje. Pero de pronto descubrí que, casi sin que me hubiera dado cuenta, ...
Més informació