Turing: la intel.ligència o la capacitat d'enganyar.

Uno de los fundamentos teóricos de la disciplina de la Inteligencia Artificial se encuentra en un experimento ideal que Alan Turing publicó en la revista Mind en 1950, y que desde entonces se conoce como el test de Turing. Muchísimos artículos, en las revistas científicas y en la prensa, mencionan el test de Turing, casi siempre introduciendo pequeñas modificaciones que cambian su significado de una manera sutil pero importante. Merece la pena recordarlo aquí traduciéndolo directamente de la revista original:

Podemos describir este problema imaginando un juego, que llamaremos “imitación”.

Hay tres jugadores: un hombre (A), una mujer (B) y un juez (C), que puede ser hombre o mujer. El juez se sienta en un cuarto aislado, sin poder ver a los otros. El objetivo del juez es determinar quién de los otros dos jugadores es el hombre y quién es la mujer. Él los conoce simplemente como X e Y, y al final del juego tendrá que declarar “X es A [el hombre] e Y es B [la mujer]” o “X es B [la mujer] e Y es A [el hombre]”. El juez puede hacer preguntas a X e Y, como por ejemplo: 

C: ¿Podría X decirme la longitud de su pelo? 

Ahora bien, supongamos que X sea el hombre. El objetivo del hombre en este juego es engañar al juez, llevándole a la identificación equivocada. Su respuesta podría ser, por tanto, “Mi pelo es rizado y mis pelos más largos miden más o menos 20 centímetros”. 

Para que las voces no ayuden al juez en la identificación, los jugadores deberían escribir sus respuestas, preferiblemente a máquina. La situación ideal consistiría en comunicar a través de un teletipo. Como alternativa, puede haber un intermediario repitiendo las preguntas y las respuestas. El objetivo de B es ayudar al juez para que haga la identificación correcta. Su mejor estrategia es probablemente decir la verdad. Podría añadir comentarios como “yo soy la mujer, no le escuches a él”, pero esto no ayudará mucho, dado que el hombre también podría añadir los mismos comentarios. 

Ahora nos preguntamos: ¿qué pasa en este juego si A es remplazado por una máquina? ¿se equivocará el juez tantas veces como cuando el juego lo juegan un hombre y una mujer? Estas preguntan remplazan nuestra pregunta original: ¿pueden las máquinas pensar?

La versión del test que se encuentra normalmente publicada es diferente en un punto sólo aparentemente menor, en cuanto no considera el juego con tres personas A, B y C (una de las cuales es, en una segunda fase, subrepticiamente remplazada por un ordenador), sino con dos personas (B y C) y un ordenador (A). El juez tiene que determinar quién es quién (¿o que es qué? ¿quién es qué?). Se trata de un cambio sutil pero determinante.

Es interesante, por ejemplo, que en el test original la inteligencia se determina como capacidad de engañar. El papel de A, en la parte del test con dos personas, es engañar al juez, haciéndole pensar que A es la mujer. Turing podría haber decidido remplazar B con el ordenador (la mujer, que tiene que ayudar al juez), pero no lo hizo. Umberto Eco escribió que un sistema semiótico es verdaderamente un lenguaje sólo cuando se pueda usar para mentir. Turing parece implicar algo parecido: la inteligencia es verdaderamente tal sólo cuando se puede usar para engañar.

El elemento de engaño del test es importante también porque nos indica que, para que el test tenga sentido, la máquina inteligente no puede ser demasiado abstracta. No debe simular una inteligencia cualquiera, sino a un hombre que simula ser una mujer. Podemos imaginar, en un mundo utópico en que los ordenadores inteligentes sean algo tan prosaico como una thermomix, un juez enfadado tras haber fallado otra identificación: “Oye...¡estás haciendo trampa! Has remplazado al hombre con una inteligencia artificial femenina. ¡Claro que no conseguía adivinar!” ¿Tiene sentido hablar de inteligencia masculina y femenina? Si hablamos de razonamiento lógico-racional, o de capacidad de manipular conceptos abstractos, claramente no. Por tanto el test de Turing nos permite deducir que estas capacidades no constituyen la verdadera inteligencia. La inteligencia no es una capacidad abstracta, un añadido que podemos separar de nuestra existencia humana o de nuestro cuerpo físico. Existimos en dos sexos y, basándonos en este hecho biológico, hemos creado la compleja estructura cultural del género, una de las muchas estructuras que nos determinan en cuanto individuos. Algo que no incluya la experiencia del género (o una simulación, pero, ¿cuál es la diferencia entre una experiencia y su simulación fenomenológicamente completa?) no es una inteligencia en el sentido que nosotros damos a la palabra.

El género es sólo uno de los determinantes de nuestra subjetividad, sólo uno de las componentes necesarias para un ser inteligente. El test de Turing apunta directamente a esta e indirectamente a muchas más. No sabemos bien cuáles son las componentes de nuestra humanidad que definen nuestra inteligencia: ¿el trauma de haber nacido? ¿la consciencia de la muerte? No lo sabemos. Se trata de un tema filosófico importante, en que la inteligencia artificial no se interesa mucho.

Un último aspecto del test, y sin embargo uno de los más importantes, es la presencia del juez. El ordenador no se considera inteligente si puede hacer algo extraordinario como ganar al campeón mundial de ajedrez, sino si aparece inteligente al juez durante una conversación corriente. La inteligencia del ordenador existe sólo en relación con la inteligencia humana: el juez no se puede remplazar con una máquina. Un corolario de esta observación es que cuanto menos inteligente sea el juez, tanto más inteligente parecerá el ordenador.

Consideremos el caso de un juez tan torpe que la única manera que tiene de decidir es lanzar una moneda. Con este juez, cualquier ordenador será inteligente, ya que el juez adivinará más o menos la mitad de las veces, independientemente de que A sea el hombre o la máquina.

Por tanto, el test de Turing nos abre dos posibilidades para crear máquinas inteligentes: podemos hacer que los programas sean cada día más complejos y sofisticados, o hacer que la gente lo sea menos. La segunda posibilidad es mucho más presente y amenazante de lo que podríamos pensar. Muchas industrias, no consiguiendo producir máquinas verdaderamente inteligentes, están intentando simplificar a sus clientes. Así tenemos cámaras con identificación automática de caras (o, incluso, de sonrisas) y aplicaciones multimedia que corrigen nuestras imágenes para hacerlas mejores --en realidad uniformándolas y creando una cultura en que se desanima la creatividad--. Tenemos sistemas de reconocimiento del habla que nos entrenan a hablar con frases cortas y con estructura sencilla.  Tenemos programas de traducción que no respetan la personalidad de las diferentes lenguas  --por ejemplo confundiendo el uso de la forma pasiva, favorecido por el inglés, con la forma impersonal, más usada en los idiomas latinos--. El lenguaje que los dispositivos inteligentes nos están imponiendo se acerca de manera preocupante a la neolengua descrita por Orwell en su novela 1984. En la medida en que el pensamiento depende del lenguaje y en que sólo podemos tener ideas si hay un lenguaje en que tenerlas, simplificar y banalizar el lenguaje supone simplificar y banalizar a las personas.

Tras una conversación sobre este tema, el informático australiano Neville Holmes me envió este Limerick (poema humorístico de cinco versos originario de Inglaterra), que resume la condición humana frente a las nuevas máquinas inteligentes:

There once was a man who said, Damn

It is borne upon me that I am

An engine that moves

In predestinate groves

I am not even a bus. I am a tram

(Mi traducción: "Una vez un hombre me dijo, Joder/Me estoy dando cuenta que soy como/Un vehículo que se mueve/en una ruta predeterminada/No soy ni siquiera un autobús, soy un tranvía". He probado algunos traductores automáticos disponibles, pero siempre introducen errores al traducir poemas.)

El sueño de sustituir al Demiurgo, de construir las vida (o la inteligencia) con nuestras manos, es tan viejo como la humanidad; lo podemos seguir desde Homero hasta el Golem y a los autómatas de la primera modernidad, desde el calculus ratiocinator de Leibnitz hasta la máquina de Turing. Se trata de un sueño que, probablemente, siempre será parte de nosotros. Pero, sobre todo hoy, es fácil caer en un banal entusiasmo sobre la tecnología, olvidando que ninguna tecnología es inocente o neutral. Las máquinas que creamos también nos modifican a nosotros. Hay que recordarlo, hoy que tan viva es la tentación de promover dispositivos inteligentes banalizando a las personas, haciéndolas menos complejas y más homogéneas.  

Turing, una persona decididamente no banal, y dolorosamente no homogénea, nos lo reclama. 

Simone Santini, El test de Turing y la inteligencia humana, El año de Turing, 08/11/2012