La IA i la indiferència davant l'humà.

Eilezer Yudkowsky


El problema no es que la IA vaya a ser "malvada" en un sentido humano, no nos odiará como un villano de película. Simplemente, no se preocupará por nosotros en absoluto, de la misma manera que nosotros no nos preocupamos por las hormigas cuando construimos una autopista. Cualquier futuro que contenga una vida con valor para nosotros requiere que esa primera superinteligencia sea construida de tal manera que se preocupe por nosotros, utilizando una definición de nosotros y de preocuparse que sea la correcta. Y ese es un problema técnico endiabladamente difícil


vegeu conferència Ted

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

La ciència del mal (Simon Baron-Cohen).

Imatge
by Jonathon Rosen La tragedia del avión estrellado de Germanwings nos sacudió a todos la mañana del martes 24 de marzo de 2015. Pero más impactante aún fue conocer que se trataba de un acto deliberado. Un joven piloto alemán decidió acabar con su vida junto con la de 150 personas más. Inmediatamente se abría un debate sobre la seguridad y el tipo de controles psicológicos que se realizan a los pilotos, ¿son estos suficientes y adecuados?, ¿podemos anticipar actos de este tipo? Son preguntas con respuestas nada fáciles de aventurar. Al margen de su cuadro depresivo, se trata de uno de esos casos extraños en los que una persona aparentemente normal sorprende al mundo con un acto de extrema maldad. Nadie de su entorno lo habría imaginado. Pertenece a ese grupo de individuos para los cuales la psiquiatría actual no puede englobar dentro de ningún desorden específico, a menos que incluyamos uno nuevo en nuestro manual de diagnóstico: la maldad entendida como falta extrema de em...
Més informació