L'algoritme té la culpa.





... la BBC ha difundido un reportaje donde recoge "5 algoritmos que ya están tomando decisiones sobre tu vida y que quizá tú no sabías". Presta atención a programas encargados de filtrar los curriculum de candidatos a un empleo, –estimando que en EEUU el 70% de las solicitudes de empleo son filtradas por un algoritmo antes de ser analizadas por un humano– en base a criterios que no son conocidos; nombra sistemas que rastrean nuestras compras en Internet como indicador para decidir si el banco debe darnos un crédito en función de lo que compramos; y alerta de que en 10 estados de EEUU los jueces utilizan para dictar sentencia un programa llamado COMPAS, un algoritmo de evaluación de riesgos que dice predecir las probabilidades de que un individuo cometa un crimen, y en el que, por cierto, alguien ha decidido que los negros tienen más probabilidades de delinquir que los blancos.

Los criterios para que un candidato sea idóneo para un puesto de trabajo, merecedor de un crédito bancario o más propenso a delinquir son variables programadas de forma opaca de acuerdo a valoraciones subjetivas de una persona humana o un grupo de ellas.

Si se quiere profundizar en el tema, Christopher Steiner en su Automate This. How algorithms took over our markets, our jobs, and the world, explora muchos de los campos en los que estos algoritmos están operando, llegando a predecir, por ejemplo, la capacidad de liderazgo de un sujeto mediante un análisis sintáctico de sus correos electrónicos. Y si se le quiere poner un poco de humor, aquí se describe cómo el algoritmo llevó a Tesla a incrementar su capitalización bursátil en 100 millones de dólares al no saber interpretar una broma en forma de anuncio.

Pensar que un algoritmo, en base a un número de variables codificadas puede predecir estos comportamientos de personas, de grupos humanos o de mercados mediante valoraciones neutras, objetivas e irrebatibles, no deja de ser otra forma de pensamiento mágico. Resulta fácil echarle la culpa al algoritmo y obviar que el bicho en cuestión obra de acuerdo a órdenes programadas por humanos con intención, ideología y opciones propias, como no podía ser de otra manera.

Cristina Monge, El pensamiento único se esconde en el algoritmo, infoLibre 12/02/2018

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

Gonçal, un cafè sisplau

Imatge
Hem arribat al final del curs. Sé que hi ha molts que esperen ansiosos conèixer el desenllaç d´aquest culebrot que es va iniciar fa dues setmanes. Com va prometre el Gonçal, avui ens ha convidat a cafè, bé, una mena de simulacre de cafè Nespresso , tot i que acceptable. No importa, en el món en què vivim tot és simulacre. Fins i tot el Gonçal es creu un simulacre del George Cloney (profund, sensual, equilibrat, únic, podria ser sud-americà), pobret. L´aula sorprenentment estava plena. Això, us ho puc assegurar, no era un simulacre. Dic sorprenentment perquè tothom ja tenia arxivat al calaix de casa seva el certificat d´assistència. El que fan les persones per un cafè, xiuxiuava una veu amb maledicència. No home, no. Aquest fet demostra que aquest curs ha estat un èxit, la presència de tanta gent s´ha d´interpretar com un homenatge al responsable del curs, respon amb aire greu una altra veu, mentre la majoria dels que hi érem hem assentit en silenci. Avui l´estrella és el Gonçal!!!., c
Més informació

Què és el conatus de Spinoza?

Imatge
CONATUS (1) Spinoza concluye así el Prefacio de la tercera parte de la Ética : “Trataré, pues, de la naturaleza y las fuerzas de los afectos y del poder de la mente sobre ellos con el mismo método con que he tratado anteriormente de Dios y de la mente, y consideraré las acciones humanas y los apetitos como si se tratara de líneas, planos o cuerpos”. Esta declaración marca el giro hacia el proyecto de comprender los afectos o pasiones como partes necesarias de la naturaleza y explicarlos por sus efectos en lugar de juzgarlos con prejuicios morales o teológicos. En este marco teórico, la idea de “conatus”, el esfuerzo de perseverar en el propio ser (E3p6), esto es, el deseo que sigue al orden de la naturaleza, se convertirá en la piedra angular de la teoría de los afectos de Spinoza . ¿Cómo funciona el concepto 'conatus' en la Ética ? El 'conatus' no es algo peculiar del ser humano, ni siquiera de los seres animados; no es instinto ni movimiento voluntario.
Més informació