La pitxa un lio

Eubúlides de Mileto planteó hace casi veinticinco siglos su célebre  paradoja del montón  que ilustraba magistralmente el problema de nuestra limitación semántica para referirnos a la realidad. Las palabras son contenedores que se pretenden estancos pero que tienen constantes fugas de realidad: Si retirar un solo grano de arena no basta para que un “montón” deje de ser un “montón”, ¿en qué momento exacto un montón de arena deja de serlo? Necesitamos conceptos discretos para orientarnos, comunicarnos y pensar, pero la realidad carece muchas veces de fronteras tan nítidas. Las entidades delimitan sus confines en función del criterio con el que se interpreten. Y, aun así, el criterio en muchas ocasiones dibuja contornos difusos, fronteras desdibujadas y líquidas entre lo que llamamos materia y vida, entre lo que es natural y lo que es cultural, entre lo que es instintivo y lo que es racional, entre una posible causa y el resto de las que suelen acompañarle. En realidad,...

En la seva breu xerrada, “El 2030, el món serà irreconeixible” , ¹ Yuval Noah Harari presenta la seva posició sobre com el desenvolupament explosiu de la IA afectarà les nostres vides d'una manera tan clara i succinta que la xerrada en si mateixa ofereix un objecte d'anàlisi crítica. Ofereix una visió força detallada del nostre món el 2030, que qualifica d'"irreconeixible" per a aquells de nosaltres que encara estem arrelats en les nocions tradicionals d'humanitat. Tanmateix, per deixar el meu punt de vista brutalment clar, crec que la realitat del 2030 també serà irreconeixible per a aquells que donen suport a la visió de Harari del 2030. La premissa d'Harari, que comparteixo, és que el que està passant avui dia és una cosa de la qual la majoria de nosaltres no som plenament conscients: la fi de la humanitat tal com la coneixíem, que va començar fa uns 10.000 anys, quan les tribus de l'edat de pedra van començar a utilitzar el llenguatge . Amb el rà...

En francés, la palabra «vida» tiene dos sentidos diferentes. Es lo que caracteriza a lo viviente o es la existencia de una persona, como cuando decimos «tener una vida interesante». Puedo conservar el segundo sentido, pero el primero me plantea un problema porque esencializa un fenómeno de una complejidad extrema: «estar vivo». Esta noción tiene sentido para el biólogo, que considera posible determinar las condiciones necesarias y suficientes de la vida, como tener ADN . Pero esa perspectiva excluye, a priori y sin discusión posible, cualquier otra posibilidad. Se niega así a considerar que un artefacto, o cualquier cosa no biológica, pueda estar viva en un sentido no metafórico. Pienso que una de las cuestiones más importantes hoy es saber quién está vivo y qué no lo está. Primero por razones éticas, porque tenemos hacia lo viviente obligaciones particulares que no existen con lo no viviente. Después, por razones prácticas, porque con los agentes vivientes siempre hay que negociar, y...

Me llamó la atención descubrir hasta qué punto un tipo como Peter Thiel no actúa solo como empresario o inversor. También crea fundaciones, impulsa centros de investigación, financia revistas, da conferencias, interviene en debates filosóficos y teológicos. Es decir, entiende que el poder no consiste solo en fabricar tecnología, sino también en producir ideas sobre qué es el ser humano, qué es la libertad o qué futuro deseamos. Yo dudaba sobre el título del libro, me preguntaba si la imagen de la batalla no sería demasiado épica, demasiado guerrera. Pero tipos como Thiel lo ven muy claro. Hay una batalla del pensamiento donde se están jugando cosas decisivas. Si nos tomamos en serio la IA , la radicalidad de las preguntas que pone encima de la mesa nos obliga a pensarlo todo de nuevo, a repensar qué significa conversar, escribir, leer o incluso imaginar. Porque no automatiza únicamente tareas materiales o cálculos, sino que trabaja sobre el lenguaje, y el lenguaje no es una herramient...

Jorge Volpi Del dominio del fuego a la máquina de vapor y de la imprenta a internet, cada tecnología ha trastocado el   orden natural de las cosas , pero lo que ocurre con los grandes modelos de lenguaje (LLM) parecería más extremo: nunca habíamos construido una máquina capaz de valerse del lenguaje humano con una habilidad   semejante   a la nuestra. Usando solo palabras habituales, podemos comunicarnos con ella —o, según sus detractores,   creer   que lo hacemos— y pedirle que haga cosas: desde redactar un correo —o, para disgusto de muchos, un poema o una novela— hasta resolver un cálculo imposible para los humanos, y desde escribir toda suerte de programas hasta aprender de sus errores y mejorarse a sí misma. Sin embargo, no deja de asombrar que el argumento usado para advertirnos sobre sus peligros consista en cuestionar su inteligencia a partir de un prejuicio tan habitual como engañoso: asumir que, dada su naturaleza predictiva, la IA jamás logrará produc...

Uno de los argumentos filosóficos más famosos del siglo XX es   la “Habitación China”   de   John Searle   (1980): imaginen a un hombre encerrado en una habitación que recibe preguntas en chino y, siguiendo un manual de reglas, devuelve respuestas perfectas en chino. No entiende ni una palabra. Ergo,   ningún programa puede “comprender” nada   por el mero hecho de manipular símbolos formales según reglas. Pues bien, varios filósofos argumentan ahora que   el argumento no se aplica a los LLMs , o al menos no de la manera que Searle pretendía. El argumento original se dirigía contra la manipulación formal de símbolos discretos, los ceros y unos del programa clásico. Pero los LLMs trabajan con representaciones vectoriales distribuidas : cada palabra se convierte en un punto en un espacio de cientos o miles de dimensiones, y las relaciones entre palabras se codifican como relaciones geométricas entre esos puntos.   Eso cambia fundamentalmente la diná...

Es el gran debate filosófico de la década y conviene entender bien qué se discute. Cuando le pedimos a ChatGPT que nos explique la crisis del 29 y recibimos una respuesta impecable, ¿ha   entendido   algo o se ha limitado a calcular   qué palabra es estadísticamente más probable   después de la anterior? Hablemos de loros. La posición escéptica la fijó un paper célebre de 2021 firmado por   Emily Bender   (lingüista computacional de la Universidad de Washington),   Timnit Gebru ,   Angelina McMillan-Major   y   Margaret Mitchell :   “On the Dangers of Stochastic Parrots”   (presentado en la conferencia FAccT). El título lo dice todo: los LLMs son “ loros estocásticos ” que “hilvanan secuencias de formas lingüísticas según información probabilística sobre cómo se combinan, pero sin referencia alguna al significado”. El paper fue de los primeros en advertir con razón sobre costes ambientales y sesgos en datos de entrenamiento , ...