La pitxa un lio

Me llamó la atención descubrir hasta qué punto un tipo como Peter Thiel no actúa solo como empresario o inversor. También crea fundaciones, impulsa centros de investigación, financia revistas, da conferencias, interviene en debates filosóficos y teológicos. Es decir, entiende que el poder no consiste solo en fabricar tecnología, sino también en producir ideas sobre qué es el ser humano, qué es la libertad o qué futuro deseamos. Yo dudaba sobre el título del libro, me preguntaba si la imagen de la batalla no sería demasiado épica, demasiado guerrera. Pero tipos como Thiel lo ven muy claro. Hay una batalla del pensamiento donde se están jugando cosas decisivas. Si nos tomamos en serio la IA , la radicalidad de las preguntas que pone encima de la mesa nos obliga a pensarlo todo de nuevo, a repensar qué significa conversar, escribir, leer o incluso imaginar. Porque no automatiza únicamente tareas materiales o cálculos, sino que trabaja sobre el lenguaje, y el lenguaje no es una herramient...

Jorge Volpi Del dominio del fuego a la máquina de vapor y de la imprenta a internet, cada tecnología ha trastocado el   orden natural de las cosas , pero lo que ocurre con los grandes modelos de lenguaje (LLM) parecería más extremo: nunca habíamos construido una máquina capaz de valerse del lenguaje humano con una habilidad   semejante   a la nuestra. Usando solo palabras habituales, podemos comunicarnos con ella —o, según sus detractores,   creer   que lo hacemos— y pedirle que haga cosas: desde redactar un correo —o, para disgusto de muchos, un poema o una novela— hasta resolver un cálculo imposible para los humanos, y desde escribir toda suerte de programas hasta aprender de sus errores y mejorarse a sí misma. Sin embargo, no deja de asombrar que el argumento usado para advertirnos sobre sus peligros consista en cuestionar su inteligencia a partir de un prejuicio tan habitual como engañoso: asumir que, dada su naturaleza predictiva, la IA jamás logrará produc...

Uno de los argumentos filosóficos más famosos del siglo XX es   la “Habitación China”   de   John Searle   (1980): imaginen a un hombre encerrado en una habitación que recibe preguntas en chino y, siguiendo un manual de reglas, devuelve respuestas perfectas en chino. No entiende ni una palabra. Ergo,   ningún programa puede “comprender” nada   por el mero hecho de manipular símbolos formales según reglas. Pues bien, varios filósofos argumentan ahora que   el argumento no se aplica a los LLMs , o al menos no de la manera que Searle pretendía. El argumento original se dirigía contra la manipulación formal de símbolos discretos, los ceros y unos del programa clásico. Pero los LLMs trabajan con representaciones vectoriales distribuidas : cada palabra se convierte en un punto en un espacio de cientos o miles de dimensiones, y las relaciones entre palabras se codifican como relaciones geométricas entre esos puntos.   Eso cambia fundamentalmente la diná...

Es el gran debate filosófico de la década y conviene entender bien qué se discute. Cuando le pedimos a ChatGPT que nos explique la crisis del 29 y recibimos una respuesta impecable, ¿ha   entendido   algo o se ha limitado a calcular   qué palabra es estadísticamente más probable   después de la anterior? Hablemos de loros. La posición escéptica la fijó un paper célebre de 2021 firmado por   Emily Bender   (lingüista computacional de la Universidad de Washington),   Timnit Gebru ,   Angelina McMillan-Major   y   Margaret Mitchell :   “On the Dangers of Stochastic Parrots”   (presentado en la conferencia FAccT). El título lo dice todo: los LLMs son “ loros estocásticos ” que “hilvanan secuencias de formas lingüísticas según información probabilística sobre cómo se combinan, pero sin referencia alguna al significado”. El paper fue de los primeros en advertir con razón sobre costes ambientales y sesgos en datos de entrenamiento , ...