Algoritmes i prejudicis.
... no es extraño que las máquinas tengan prejuicios irracionales: los han aprendido de nosotros. Una red neural típica (un software que abstrae conceptos de la experiencia) aprende inglés o español empollándose varios millones de textos y discursos escritos o pronunciados por miríadas de Homo sapiens. Una variedad particularmente útil de estos sistemas se basa en un espacio vectorial donde cada palabra es un vector y los conceptos emergen de la proximidad de dos palabras en un texto. Si “gitano” aparece a menudo a menos de diez palabras de “marginal”, la máquina aprenderá a asociar esas dos ideas. Es decir, absorberá de nosotros ese sesgo inaceptable.
Javier Sampedro, Grandes datos, grandes sesgos, El País 22/09/2017
Llegiu més:
Si está en la cocina, es una mujer: cómo los algoritmos refuerzan los prejuicios
Siri: "Lo siento, no entiendo la frase 'me han violado', busca en la web"
Comentaris