La expresión IA es equívoca porque estos algoritmos ni son inteligentes, ni son tan artificiales. Naturalmente, estamos lejos de saber con precisión qué es la inteligencia, pero sí sabemos que los llamados seres inteligentes, nosotros mismos, somos capaces de comprender, razonar, pensar, hacer abstracciones, atributos que no parecen poseer los nuevos productos de la IA. En realidad, «no hay evidencia ni matemática, ni física, ni se conoce la existencia de ningún prototipo equivalente a las capacidades pensantes de un cerebro humano» (Etxebarria 2023), y ni siquiera sería acaso inteligente la atractiva OS2, Samantha, de Her, que perturba a Theodore y tanto lo ama. Por poner algún ejemplo revelador, un algoritmo dirigido por buenas instrucciones (prompts) puede demostrar un teorema pero, según dicen los matemáticos, no puede inventar un teorema. Es cierto que estos algoritmos tienen algo así como inteligencias, mejor sería decir capacidades, específicas, sistemas que generan respuestas, identificaciones que producen avances: identifican áreas en el ADN que pueden causar enfermedades, pueden sintetizar y reconocer voces, pero no poseen inteligencia general. Y no son tan artificiales porque los algoritmos los inventan humanos (aunque puedan automodificarse). Asimismo, no olvidemos que en los modelos generativos trabajan personas (turks), humanos subcontratados que revisan sus producciones y evitan que tengan sesgos o digan demasiadas tonterías.
Los seres humanos estamos dotados de una capacidad cognitiva única, una «competencia lingüística» que nos permite no solo construir oraciones bien formadas sintácticamente, y a partir de ahí hacer discursos con una cierta coherencia, sino ser capaces de «comprender / entender», «explicar», «evaluar», «improvisar», «juzgar», entre otras cosas. Mediante el lenguaje expresamos y atribuimos intenciones, formulamos objetivos, suscitamos el reconocimiento de estados de la «mente» de los otros, hacemos inferencias, expresamos relaciones causales, tenemos una percepción de la comprensibilidad (por eso escribimos diez veces un texto hasta que diga lo que queremos decir), deducimos cuál es el point de nuestro interlocutor/a, hacemos chistes, podemos ser rápidos e ingeniosos (witty), tenemos «retranca», en general nos damos cuenta de qué es relevante, disponemos de formas diversas de manifestar deseos, emociones, dudas, certezas. Y todas estos, llamémoslas así, estados de la mente / cerebro o acciones (cuando externalizamos), los expresamos con inmediatez y con una relativa solvencia, mediante el lenguaje. Todas estas actividades requieren pensamiento, razonamiento, comprensión y conocimiento.
Un filósofo pensará que esto es justamente lo que significa ser inteligente, tener inteligencia general no inteligencia orientada a un objetivo, y tener «consciencia» (sea lo que sea la consciencia, que muy pocos se atreven a definir). Por otro lado, la comprensión, el diálogo, o la utilización tanto creativa como funcional del lenguaje implica poder manejar y resolver vaguedades, dudas, presuposiciones que hacen que la actividad lingüística codifique un nivel alto de sugerencia, incertidumbre, duda, cuestiones todas que plantean un problema serio para cualquier «simulación» de la competencia y la actuación lingüística. ¿Cuáles son los argumentos que asientan la suposición de que la sustituibilidad entre lenguaje humano y modelos grandes de lenguaje no es nada obvia?
Los algoritmos que pudiesen hablar con nosotros, «comunicarse», ser discursivos y capaces de actos de habla, tendrían que ser objetos intencionales que capten las intenciones de los otros y actúen con una gran labilidad a estos respectos, como nos sucede a los humanos. Los seres intencionales advierten, o deberían advertir ―para qué engañarnos y olvidarnos de los sesgos cognitivos―, qué es lo relevante en cada momento. No se me ocurre que la IA lingüística / comunicativa pueda ser capaz de definir bien qué es relevante y qué irrelevante en una situación comunicativa cuando sus actuaciones están regidas por un algoritmo que les hace buscar en un universo de datos enormes los tokens más cercanos e irlos engordando progresivamente.
Creatividad es una palabra muy utilizada y cuya definición no es fácil. La creatividad se tiene, se mejora y se potencia, es un don y una práctica. Como bien indica Aladro (2023), la creatividad implica un uso disruptor de los códigos y lenguajes habituales. La saco a colación no porque esté directamente conectada con el lenguaje (aunque algo está, como diré) sino para señalar que los modelos grandes de lenguaje proporcionan una visión deforme de la creatividad. Hacen creer que crean porque generan ensayos o textos. Pero si suponemos que la creatividad es hacer lo que no se ha hecho antes: transportar visiones de unos campos a otros; ampliar los campos de saberes; abstraer y generalizar debidamente; entonces los sistemas de la IA son casi la antítesis de la creatividad. En palabras de Aladro (2023) «La inteligencia artificial no puede generar información nueva ni usar el lenguaje para generar nuevos pensamientos jamás concebidos por los seres humanos, porque su base de trabajo es lo “ya sabido”… la información universalmente compartida en la red». Cuando los algoritmos hacen de escritores tienen el máximo de creatividad que les permite la imitación sin pensamiento. Si la literatura no depende de la gramática (Borges) menos aún depende de la combinatoria probabilística. Sin embargo, muchos llaman «crear» a lo que hacen estos algoritmos.
La creatividad lingüística en los chatbots y similares se obtiene aleatoriamente, si se obtiene. Es cierto que este chat puede ayudar a los guionistas, entre otras cosas, y de ahí los problemas en Hollywood, porque las series son rutinarias y están hechas todas con los mismos patrones: un crimen, un misterio, unos sospechosos inesperados, vueltas sobre otros personajes, siempre con gran lentitud y mucho morbo y poca sustancia en los diálogos, salvo por la recurrencia a las palabras gruesas. Pero si queremos que haga un guion para películas de gran imaginación y sensibilidad como Rocco y sus hermanos, Blade Runner, o Drive my car, creo que le plantearemos una tarea imposible aun cuando le diésemos muchos mimbres previos. Es un instrumento ideal para «ayudar a pensar» (eso dicen algunos) en una época precipitada, repetitiva, superproductiva de banalidades cortadas con un mismo patrón. Ahora bien, si incluimos en la creatividad el poder hacer una operación muy extensa, inalcanzable para un humano, como planificar todos los movimientos de los trenes en Europa en un solo día, entonces podemos concederle a la IA una (pseudo)creatividad importante, pero de segundo nivel.
El pensamiento y la actuación lingüísticos están impregnados de memoria. Nuestro yo y nuestra actividad lingüística es en buena medida nuestra memoria; aunque sepamos que la memoria es selectiva y reconstructora y que, si recordáramos siempre todo lo que hemos pasado, no podríamos sobrevivir. Pero está ahí e informa nuestras actuaciones lingüísticas y nuestro yo. Una cosa que impresiona en Blade runner es que los replicantes tenían recuerdos implantados, porque se puede vivir sin muchas cosas, pero no se puede vivir sin recuerdos. El robot que nos reemplace debería tener memoria, pero no simplemente recuerdos implantados sino recuerdos construidos en interacción con la realidad. Es decir, el robot debería ser capaz de construirse una experiencia de vida, de la cual surge también la intuición, que tan importante papel juega en nuestra comprensión y creatividad. Debería tener pensamiento concreto y abstracto. Debería también estar de alguna manera inmerso en una realidad física. Vuelvo a recordar a OS2, el sistema operativo de Her del que se enamora perdidamente Joaquin Phoenix, y sus encuentros emocionados con nuevas situaciones a la vez que su dependencia de la experiencia construida con sus interlocutores virtuales, que le resultaba escasa. ¿Cómo se consigue todo esto? ¿Se entrena a un robot con escenas, textos, situaciones emocionales, situaciones sensoriales, cursos sobre todos los saberes inventados para que así construya una memoria que sería una mezcla de los seres históricos que conciben los inventores de los algoritmos? Si no se siguiera esta estrategia de construcción de las capacidades del robot humanoide, habría que buscar otra que, a mi modo de ver, debería estar guiada desde la biología del cerebro y el cuerpo y no desde las solas capacidades de análisis paralelos de esquemas estadísticamente plausibles, distribuciones léxicas posibles o de la constante exposición a miles de millones de datos, capaces de producir tanto productos fascinantes como cualquier producto sesgado decidido por el programador. ¿Habrá que volver a los sistemas de reglas y abandonar los sistemas probabilísticos como dicen algunos? ¡Vaya a saberse! Como escribía Muñoz Molina en su artículo de El País del sábado 7 de octubre de 2023, «el porvenir no suele parecerse a ningún vaticinio». Pero más allá de vaticinios a largo plazo, o del anuncio de los riesgos existenciales para la humanidad que podrían derivarse de esta tecnología, cuando está tan sobre el tapete la cuestión de la regulación de la IA ―con llamativa concentración en cuestiones biométricas y en la seguridad de los servicios de inteligencia―, convendría centrarse en los riesgos reales e inmediatos de estos productos: uso de datos sin consentimiento violando la propiedad intelectual, invasión de la privacidad, desinformación deliberada (deep fakes), textos científicos pirateados o híbridos, sesgos estereotípicos y discriminadores, entre otros muchos. Oliver (2023) señala algunos de estos problemas inmediatos y enfoca otros: «la manipulación subliminal del comportamiento humano por parte de algoritmos de IA; la falta de veracidad de los sistemas de IA generativa que inventan todo tipo de contenidos… sin correspondencia con el mundo real; la fragilidad de estos grandes modelos que pueden equivocarse y ser engañados; o la concentración de poder en las manos de un oligopolio de empresas y sus multimillonarios dueños o inversores». No es trivial, porque estas son amenazas sobre el presente.
Comentaris