No poden existir robots que desobeeixin.



Con lo que llevamos dicho la respuesta es inmediata. Ser libre es, de modo radical, tener la facultad de autodeterminación, es decir, la capacidad de proponerse uno mismo sus propios planes, objetivos y metas. Puesto que una máquina computacional tiene un objetivo que no se ha dado a sí misma y que no puede cuestionar… no hace falta decir más: una máquina computacional no puede ser libre, porque el concepto de libertad es contradictorio con el concepto de máquina computacional o algorítmica, y con el concepto más general de máquina. Para ser libre tendría que dejar de ser una máquina y adquirir autoconciencia, algo a lo que la ciencia ficción nos tiene muy acostumbrados, pero no por eso es necesariamente factible. Obviamente, esos robots que desobedecen las órdenes de sus dueños no hacen más que obedecer, en un nivel más profundo, a sus programadores. La autodeterminación, por su misma definición, queda fuera del paradigma computacional clásico, es decir, de la concepción clásica de máquina algorítmica: la libertad no es una función computable.
Esto no es una dificultad tecnológica de hoy día que será superada con el tiempo, es una dificultad conceptual para cualquier máquina de cualquier tiempo, porque lo esencial de una máquina no es estar hecha de engranajes y circuitos eléctricos, sino haber sido diseñada con una determinada finalidad, a la que tiene que obedecer forzosamente. Una máquina no puede decidir qué objetivos quiere perseguir, porque dejaría de ser una máquina. Que es precisamente lo que les pasa a los robots que se hacen humanos en la ciencia ficción: los replicantes de Blade Runner ya no son robots, son humanos, aunque sea en una forma de humanidad que nos desconcierta y no sabemos precisar bien.
Atención, no estoy diciendo que sea imposible fabricar seres inteligentes y libres, tan solo que, si algún día lo logramos, no serán propiamente “máquinas computacionales”. Quizás en un futuro indeterminado seamos capaces de producir en el laboratorio un tipo de robots no algorítmicos (no dirigidos hacia un fin dado) que propiamente puedan ser calificados como autoconscientes, capaces de hacer “lo que les dé la gana”, de proponerse sus propios objetivos; pero seguramente no sería adecuado seguir llamándolos robots. Serían “humanos” en el sentido de autodeterminados, verdaderamente libres, aunque quizás su estructura física (¿biológica?) fuera muy diferente a la nuestra. Pero, ¿de qué serviría esto? ¿Para qué fabricar máquinas que no harán lo que queremos, sino lo que les dé la gana? ¿En qué sentido puede decirse que siguen siendo máquinas?
En cierto sentido, la reproducción humana ya trae al mundo seres libres y autodeterminados, sin objetivos predefinidos. Una autodeterminación que a veces resulta incordiante (que se lo pregunten a todos los padres y madres con hijos adolescentes), y que demasiado a menudo tratamos de sustituir por un comportamiento “programado”. Y esto puede ocurrir en todos los niveles educativos, desde los niños pequeños hasta los estudiantes universitarios [5]. Lamentablemente, la tentación de sustituir el proceso educativo por un proceso de robotización es grande, especialmente en el caso de los gobernantes totalitarios, para quienes la autodeterminación ya no es solo molesta, sino simplemente inaceptable.
Gonzalo Génova, ¿Puede ser libre una máquina?, Naukas 10/01/2018

NOTAS
[5] Gonzalo Génova, M. Rosario González. Educational Encounters of the Third Kind. Science and Engineering Ethics 23(6):1791-1800, December 2017.

Comentaris

Entrades populars d'aquest blog

Percepció i selecció natural 2.

"¡¡¡Tilonorrinco!!! ¡¡¡Espiditrompa!!!"

The End.