Intencionalitat i IA

Los algoritmos inteligentes ya se están utilizando, por ejemplo, como instrumentos de espionaje y manipulación, por parte de personas y organizaciones que persiguen diferentes objetivos. Sin embargo, ello no significa que la propia IA aspire a algo parecido a la dominación.

Los filósofos de la tecnología discuten esta cuestión bajo el término de «intencionalidad», es decir, la cualidad de llevar a cabo acciones deliberadas y orientadas a un objeto. Muchos autores consideran la intencionalidad como un componente permanente de la conciencia.

En su libro Psicología desde el punto de vista empírico (1874), Franz Brentano sostuvo que la intencionalidad es la característica esencial de todos los actos de conocimiento: siempre están referidos al objeto, es decir, dirigidos a algo.

Para Brentano, una característica básica de lo mental es dirigirse a un objeto o referirse a él. Por ejemplo, si pienso «la manzana está sobre la mesa», eso se refiere a los objetos manzana y mesa, así como a la relación espacial que guardan entre sí. Con respecto a este estado de cosas, el pensamiento puede ser verdadero o falso. Brentano consideraba por ello la intencionalidad algo exclusivamente psíquico: «Ningún fenómeno físico muestra nada semejante».

Los sistemas de las máquinas no conocen las conexiones mecánicas, ni las comunicativas u otras. El significado de sus reacciones se deriva solo de la intencionalidad humana. En otras palabras: si un vehículo autónomo frena para no atropellar a un peatón, ese «para» procede de los seres humanos. Los motivos y consideraciones legales, sociales o morales solo los conocemos nosotros.

Para Searle, la intencionalidad no se basa únicamente en la comprensión del significado. Más bien, se vincula con determinados «actos de habla». En la teoría de los actos de habla de Searle, los actos comunicativos deben ser interpretados como acciones. El lenguaje humano, más allá de la gramática y el significado, tiene siempre un propósito intencional, ausente en los sistemas de signos de la máquina.

Junto con Paul Grice y otros teóricos, Searle desarrolló la tesis de que la intencionalidad se manifiesta solo en la capacidad para el uso dirigido del lenguaje. Este surge cuando una persona persigue una intención que la hace hablar. Por ejemplo, una madre y Alexa de Amazon pueden responder con las mismas palabras cuando un niño grita «¡Ay!»: «Oh, lo siento, ¿puedo ayudarte?» El contenido significado, sin embargo, difícilmente podría ser más diferente: la empatía y el cuidado, por un lado; una simple fórmula de cortesía programada, por otro.

En vista de las posibilidades técnicas en constante crecimiento, se dice que la IA conquistará en breve el último bastión de lo humano: la intencionalidad. Pero la atribución de esta es el resultado de una necesidad humana primaria. Como seres sociales, dependemos tanto de no perder de vista las propias intenciones como de atribuírselas también a nuestros respectivos compañeros.

Una sociedad sin intencionalidad que le sirva de base no sería solo disfuncional, sino también carente de sentido: solo ella me permite comprender como «yo» a la persona que está en el espejo. Como los psicólogos del desarrollo mostraron en la década de 1970, los bebés reconocen después de pocos meses de vida que un punto rojo en la imagen que se refleja en el espejo procede de un punto igual que está en su frente. Refieren el punto a sí mismos.

Dado que por ahora no hay ningún otro método comparable para demostrar la intencionalidad, es muy difícil «consultarla» en la IA. La inteligencia, en cambio, es más fácil de medir. Un equipo de investigadores chinos desarrolló en 2016 un método que podía hacer comparables los cocientes intelectuales de sistemas artificiales y naturales. La IA del asistente de Google obtuvo así una puntuación de apenas 50 (más o menos el nivel de un niño pequeño). Sin embargo, esta atribución es, en el mejor de los casos, un indicio débil, y de ninguna manera suficiente, para acreditar la intencionalidad de una IA.

Posiblemente esto no es más que otra muestra del modo en que nuestro propio pensamiento influye en nuestra visión de la realidad. Que atribuyamos intencionalidad a la IA es un acto de antropomorfización y, por tanto, de humanización. Los humanos consideramos que la IA es intencional porque nosotros mismos lo somos.

Las dudas relativas a que las máquinas puedan desarrollar alguna vez intencionalidad se alimentan también de otra fuente: la lógica. Dado que calcular y pensar son procesos fundamentalmente diferentes, es de suponer que solo a partir del primero no se llega nunca al segundo. Las operaciones de cálculo no llegan más allá de las premisas establecidas para ellas; la mente humana, en cambio, gracias a la intencionalidad, tiene la capacidad de reflejarse a sí misma.

La intencionalidad constituye una facultad humana original. Crea la posibilidad de reconocer el sentido, al que solo nosotros tenemos acceso como seres pensantes y sociales. Por tanto, el dominio mundial de la IA debería seguir siendo, también en el futuro, una pesadilla hollywoodiense.

Dorothea Winter, Por qué la inteligencia artificial no puede querer nada, Investigación y Ciencia septiembre 2022