Algoritmes i prejudicis.

... no es extraño que las máquinas tengan prejuicios irracionales: los han aprendido de nosotros. Una red neural típica (un software que abstrae conceptos de la experiencia) aprende inglés o español empollándose varios millones de textos y discursos escritos o pronunciados por miríadas de Homo sapiens. Una variedad particularmente útil de estos sistemas se basa en un espacio vectorial donde cada palabra es un vector y los conceptos emergen de la proximidad de dos palabras en un texto. Si “gitano” aparece a menudo a menos de diez palabras de “marginal”, la máquina aprenderá a asociar esas dos ideas. Es decir, absorberá de nosotros ese sesgo inaceptable.

Javier Sampedro, Grandes datos, grandes sesgos, El País 22/09/2017


Llegiu més: 

Si está en la cocina, es una mujer: cómo los algoritmos refuerzan los prejuicios

Siri: "Lo siento, no entiendo la frase 'me han violado', busca en la web"

Comentaris

Entrades populars d'aquest blog

Freud: la geneologia de la moral.

Zombificació.