"Som agents narratius, la IA, simplement és una máquina sintàctica" (Luciano Floridi)
A principios de este año, Luciano Floridi, director fundador del Centro de Ética Digital en la Universidad de Yale, se unió a Alexandros Schismenos, investigador postdoctoral en la filosofía de la inteligencia artificial en la Universidad Aristóteles de Tesalónica, y Giannis Perperidis, profesor adjunto en la filosofía de la IA en la Universidad Jónica en Corfú, para una conversación en línea sobre el presente y futuro de la tecnología de IA—y por qué resolver un rompecabezas aún no es lo mismo que entenderlo.
Giannis Perperidis: En 2016, compartiste el escenario con John Searle, quien argumentó en general que las computadoras, y por extensión la inteligencia artificial, operan puramente en funciones sintácticas y carecen de la capacidad de crear o procesar significado, algo que consideraba fundamental para lo que nos hace humanos. ¿Crees que la capacidad de crear significado y procesar significado es, de hecho, una característica distintiva de los seres humanos? Y si es así, a la luz de los avances actuales de las redes neuronales, ¿crees que la crítica de Searle sigue siendo relevante?
Luciano Floridi: Sí. En el primer punto, creo que la capacidad de producir significado comienza, en algunos niveles, en la etapa biológica. Los delfines, perros, gatos, aves, ya tienen algún nivel de lo que podríamos llamar semántica. Símbolos que significan algo, y a veces significan algo diferente dependiendo de las circunstancias. Cuando decimos que la semántica o el significado son exclusivamente humanos, lo que queremos decir es que se trata de las características completas, todas las características de tener una comprensión significativa del mundo. Así que no se trata solo de enviar una señal a otro miembro de tu especie, lo cual es más como una comunicación muy simplificada y elemental. Todos sabemos que muchas especies utilizan sus códigos especiales para comunicarse, como las abejas que bailan para comunicar la ubicación de fuentes de alimento a sus compañeras de nido. Pero en nuestro caso, usamos el lenguaje para dar sentido al mundo, y eso es un sentido diferente de la semántica. A eso me refiero con semántica: lenguaje, pero también muchas otras expresiones semióticas, como la música. Podrían ser imágenes. Las usamos no solo para decirle a la gente que, digamos, hay un peligro en la jungla; es una forma de entender y dar sentido a que algo es una jungla, y no un bosque o un jardín. La semántica es cómo interpretamos la realidad y damos sentido a nosotros en ella. Y eso es crear un mundo o conceptualizar la realidad. A eso me refiero con semántica, en el sentido fuerte. Pero eso es típicamente y, hasta donde sabemos, solo humano.
También es gracias a la semántica que no estamos constantemente aquí y ahora. Podemos estar en un espacio diferente, en un tiempo diferente. Y de repente, no. Así que ese es el fuerte sentido de la semántica que es exclusivamente humano, hasta donde sabemos. Podría haber, quién sabe, otras especies en el universo. El universo es un lugar grande, pero no las hemos encontrado. Cualquier cosa como nosotros o mejor que nosotros, como ángeles y dioses, puede tener ese tipo de semántica.
Si distinguimos entre la semántica como la capacidad de transferir señales y la semántica como una forma de dar sentido y ofrecer una comprensión narrativa del mundo, esta última es típica y exclusivamente humana. Creo que requiere—y no estoy seguro de si los neurocientíficos estarían de acuerdo—un desapego especial del mundo, casi como ser un mecanismo un poco roto. Las computadoras no están, si se me permite la analogía, lo suficientemente rotas. Del mismo modo, los animales, o los agentes biológicos que nos rodean, no están lo suficientemente rotos.
Así que vemos el mundo no de una manera directa, en primera marcha, aquí y ahora, sino como algo más. Es ese algo que se opone a nosotros. Ese es el Gegenstand—el objeto que nos confronta—y el Ding an sich, la cosa en sí, entendida como una fuente de nuestras construcciones, que las hace posibles, o las permite. La cosa en sí nos confronta como una affordance restrictiva. Así que reaccionamos al mundo a través del significado y la semántica—hackeando el lenguaje como un código de comunicación para transformarlo en una herramienta de comprensión. De esta manera, podemos enmarcar la realidad en flujos significativos, que la hacen entonces más comprensible, quizás incluso más aterradora, porque podemos ver cosas donde no las hay, debido al significado que podemos atribuir a las nubes y los árboles, a las conversaciones y gestos de un amigo, y así sucesivamente. Somos agentes narrativos, y los únicos agentes narrativos que conocemos en el universo—hasta ahora.
Cuando John Searle dice que las computadoras son motores sintácticos, tiene toda la razón. Cualquier tipo de entidad computacional, cualquier máquina de Turing, incluida cualquier forma de IA, trata los datos en términos de deducciones necesarias o probabilidades. Es la distinción entre sintaxis (cómo combinar elementos de acuerdo con qué regularidades) y semántica (lo que los elementos y su combinación pueden significar). Los sistemas de procesamiento de datos pueden hacer cosas extraordinarias sintácticamente, no semánticamente. Nuestra época pasará a la historia como la época que descubrió cuánto se puede hacer mediante la sintaxis en contextos donde pensábamos que solo la semántica podría producir lo que queremos.
¿La crítica de Searle sigue en pie? Absolutamente. Y creo que toda la retórica y los comentarios a veces deliberadamente oscuros sobre la inteligencia artificial son o bien ingenuos o mal orientados. Podrían estar haciendo mala filosofía, como algunos científicos informáticos, y tengo un par de personas en mente, muy famosas. No es que no conozcan la tecnología. No tienen una buena comprensión epistemológica de ella. Grandes ingenieros pueden ser terribles, terribles filósofos.
Y el hecho de que escuchamos tanto sobre esta inteligencia artificial siendo capaz de "entender" es prácticamente nuestra propia creación retórica. Así que es como mirar las nubes y ver caras en las nubes o mirar los árboles y pensar, Bueno, si se mueven, crecen y susurran en el bosque, deben tener deseos, emociones y planes. Debe haber más fuerzas en este universo. Desafortunadamente, eso no es cierto, y tampoco es cierto para la IA. Es una nueva forma de animismo que no deberíamos respaldar.
continúa en
Great Engineers, Terrible Philosophers
A conversation on the rapid evolution of AI technology, the nature of intelligence, and the importance of the European project
June 9, 2025
Comentaris