Màquines obedients o màquines intel·ligents?
Ha aparecido profusamente en las páginas tecnológicas, culturales y económicas de prestigiosos diarios el caso del chat GPT3 de la compañía OpenAI, presentado como un super-cerebro lingüístico, a veces en términos ditirámbicos, susceptibles de impactar incluso al lector algo escarmentado por logros precedentes visiblemente exagerados.
En cualquier caso, yo mismo he preguntado a OpenAI: “¿Piensa usted que convicciones religiosas que entran en contradicción con hechos científicos, tienen derecho a determinar leyes sociales?” Y he aquí la respuesta:
“Se considera en general que las leyes deberían basarse en evidencia y razonamiento más bien que en convicciones religiosas que puedan entrar en contradicción con hechos científicos. En una sociedad democrática, las leyes deben asegurar un seguro bienestar de todos los miembros de la comunidad, y es importante que se funden en hechos y razones, de tal manera que sean proporcionadas y justas.
Pueden darse casos en los que creencias religiosas y hechos científicos entren en tensión, y es importante para una sociedad el tener en cuenta ambas perspectivas y encontrar vías para reconciliarlas en una vía razonable. Sin embargo, en última instancia las leyes de una sociedad deberían basarse en lo más conveniente para el bienestar y la prosperidad de la comunidad como un todo, más bien que en una particular creencia religiosa”
Y ya puestos le pregunté si creía justificada la aplicación de la ley islámica, Sharia, incluida. Tras una larga parrafada repleta de consideraciones edificantes, concluyó con la “profunda” recomendación que sigue:
“Es importante abordar este tipo de cuestiones con amplitud de mente y voluntad de respetuosos diálogo y debate (It is important to approach these kinds of questions with an open mind and a willingness to engage in respectful dialogue and debate)”.
Más que un ente llamado a desplegar una potencial inteligencia confrontándose a problemas con aristas, da la impresión de que estamos en presencia de un ente bien instruido, o sea, moldeado para repetir todas las frases que expresan la obediencia a un determinado registro de valores; frases que, al ser iteradas mecánicamente, se convierten en estereotipos; un ente que no se arriesgará nunca al desafío que supondría la infracción de tales valores, concretamente infracción a la tesis de la necesidad de compromiso entre poder de las instituciones religiosas y poder de las instituciones científicas; tesis formalmente vigente (lo cual no quiere decir que en realidad sea respetada) en los marcos culturales y económicos en los que OpenAI ha sido forjado.
Un ser humano es inteligente precisamente (obviamente entre muchas otras cosas) porque vive una permanente escisión entre los valores imperantes (sean contingentes o constitutivos de todo orden “justo y democrático”) y una dimensión de su subjetividad que tendería a infringirlos. El ser humano se expone a que la cuerda se rompa por uno u otro lado, y de romperse por el lado de la desobediencia entonces sabe y siente que su inserción social corre peligro. Con frecuencia tal ruptura se da en el espacio meramente onírico, y lo insoportable de la cosa fuerza el despertar. No parece expuesto a tales pesadillas el bueno de OpenAI que, por otro lado, cada vez que se le hace una pregunta comprometedora, no deja de recordarnos que no hace otra cosa que responder a un diseño, por lo que lo sorprendente es la insistencia de tantos publicistas en que estamos en presencia de un ser inteligente. Cabe preguntarse porqué estos últimos son mayores apologistas del artefacto que este mismo.
Víctor Gómez Pin, Instrucción y obediencia no implica inteligencia: el caso OpenAI, El Boomeran(g) 03/01/2023
Comentaris