IA i responsabilitat.
Formularé una pregunta hoy usual: ¿es legítima la dejación de responsabilidades consistente en trasladar a un ente maquinal tomas de decisión sobre asuntos con grandes implicaciones, y que hasta ahora eran tratados exclusivamente por seres humanos? La pregunta suscita de inmediato una segunda:
¿De qué asuntos se trata? Y caso de que efectivamente se trate de cuestiones de gran complejidad, que exigen no sólo conocimiento técnico sino potencialidad de discernimiento moral o de valoración estética, entonces surgiría de inmediato una tercera pregunta: Pero, ¿es que hay realmente entes maquinales susceptibles de cumplir tal rol?
Consideremos un caso extremo (no quizás el más problemático): el presidente de los Estados Unidos que en todo momento tiene relativamente cerca el maletín nuclear (Trump al parecer no lo soltó hasta el último día) se ve en la disyuntiva de apretar el botón o no, dada una presunta amenaza se potencia enemiga. Sus consultores le manifiestan carecer de criterio y le dejan efectivamente sólo ante la decisión.
¿Cabe pensar que en última instancia recurre a un ente maquinal convencido de que este tiene criterio a la vez fundado en más acusada percepción de los datos en juego, mayor capacidad de calcular las pérdidas que la acción provoca y asimismo las que ocasionará la inevitable respuesta. Calculará si vale la pena desde un punto de vista militar y asimismo desde el punto de vista económico. Pero hay algo más:
Hemos de suponer que el presidente en cuestión no es un canalla. Palabra esta que dice muchas cosas sin necesidad de recurrir al concepto que subyace, de trasfondo kantiano y sobre el que hemos de volver, avanzando que un canalla es aquel que no tiene reparos en instrumentalizar a los seres de razón, en instrumentalizarlos para su inmediato interés empírico, en no considerarlos como fin en sí.
Estoy pues suponiendo que el interlocutor maquinal del presidente de los Estados Unidos es un ser dotado no sólo de inteligencia computacional sino también de esa segunda modalidad de la razón kantiana que es la moralidad, que solapa en parte aquello que el pensador español Gabriel Zubiri denominaba “Inteligencia sentiente”.
Si supusiéramos que hay un ente maquinal de estas características sería perfectamente imaginable (aun no digo que sería legítimo) que en la soledad de su despacho el presidente de los Estados Unidos depositara en él la decisión final de apretar el botón rojo.
Víctor Gómez Pin, El hombre cuenta (VII): el botón rojo, El Boomeran(g) 05/03/2021
Comentaris