IA, una intel·ligència diferent a la humana.

El debate que abre Geoffrey Hinton sobre los peligros de la IA es mucho más interesante que la mayoría de lo que se lee. Tengo por ahí escritos suyos de cuando en los años 80-90 se desarrollaron los debates sobre las redes neuronales. En filosofía de la mente reinaba entonces Jerry Fodor, quien sostenía que la mente humana funcionaba como un sistema simbólico similar al de los ordenadores clásicos (una semántica composicional espejo de una estructura fisiológica). Solo una minoría era/mos pro-redes neuronales. Al final del siglo pocos seguían a Fodor: la mente es un sistema dinámico. El argumento de Hinton para afirmar que las IA serán pronto más inteligentes que los humanos es que pueden multiplicar su modelo de mundo y procesar ilimitadamente datos, a diferencia de la mente humana. Los humanos trabajamos con un modelo de mundo que corregimos poco a poco sobre la hipótesis de que sea correcto. A una IA cosas como la verdad no le importan, ni si su modelo es un reflejo estructural de las leyes del universo. Solo le importa su capacidad predictiva (es un sistema no realista, empírico  y pragmatista, por decirlo así) pero, y eso es lo amenazante, puede generar sus propios conceptos ajenos a lo humano y sus propios objetivos no menos ajenos. 

El segundo argumento de Hinton, el más preocupante, es que el proceso es incontrolable debido a que la competencia entre empresas y estados hará que no se pueda detener la creación de agentes autónomos (IAs + operadores) y que muchos pueden ser dañinos y, probablemente más inteligentes y, tal vez generar objetivos y planes autónomos. Este argumento no es filosófico sobre la mente, sino político, sobre cómo el mundo puede organizar su propia supervivencia. 

Hace años conversé mucho sobre esto con algunos de los mejores ingenieros españoles en IA y automática (Ricardo Sanz, entre ellos), quienes estaban de acuerdo todos en que las IA son inteligentes pero con una inteligencia distinta a la humana, orientada a la eficiencia. Esto es bueno y malo.  En la forma más pesimista se parecerían a los monstruos alien de la famosa serie.

Últimamente me estoy dedicando a la literatura de monstruos, en parte por estas consideraciones hipotéticas. 

Lamentablemente, desde la filosofía no hay solución para estas ansiedades y temores: es la realidad humana, su organización y sus políticas las que deben resolver un lío como este.

Fernando Broncano,  https://www.facebook.com/fernando.broncanor.  08/05/2023