Què fem amb els algoritmes?

Los coches, los móviles, las fábricas y los asistentes del hogar son ya inteligentes. Algunas máquinas son capaces de hacer algunas tareas mejor que los humanos, como diagnosticar el cáncer o adivinar quién puede sufrir un infarto, conducir en situaciones de estrés, decidir qué película online queremos ver o participar en complejos juegos de azar. Pero a medida que dejamos cada vez más aspectos de nuestra vida en manos de las máquinas, hay un problema que los expertos en inteligencia artificial creen urgente abordar: todas estas decisiones las toman algoritmos sin cerebro ni alma y, por tanto, sin ética. Hechos a la imagen y semejanza de sus creadores, los algoritmos informáticos están llenos de prejuicios y, por ejemplo, han demostrado su racismo y su machismo discriminando a mujeres y a minorías étnicas a la hora de otorgar préstamos bancarios o en la selección de candidatos a distintos empleos. Diversas iniciativas están intentando acabar con estos sesgos. La ONG Algorithm Watch vigila la ética en estos procesos y denuncia aquellos en los que existe una discriminación. Y la Comisión Europea ha creado un grupo de alto nivel con científicos, ingenieros, ejecutivos de empresas tecnológicas y filósofos que emitirá un primer informe en 2020. El objetivo: que nuestros robots no hereden nuestros sesgos, manías y prejuicios.

Patricia Fernández de Lis, La ética en la inteligencia artificial, El País Semanal 27/12/2019