La pitxa un lio

Circulaba esta semana por la Red una escena de un libro de Ursula K. LeGuin — The Tombs of Atuan — en la que unas jóvenes hambrientas tratan de convencer a un mago de que use sus poderes para conseguir comida. Puedo llamar a un conejo y vendría, les dice él. “Pero ¿serías capaz de atrapar, despellejar y asar a un conejo al que hubieras llamado de ese modo? Quizá si te estuvieras muriendo de hambre. Pero creo que sería una traición a la confianza”. Las chicas no quieren matar a nadie, sólo quieren que haga aparecer una cena. El mago podría hacerlo, les dice. “Incluso servirla en platos de oro, si así lo prefieres. Pero eso sería una ilusión, y cuando te alimentas de ilusiones, acabas con más hambre que antes”. La metáfora es tan pertinente que parece ad hoc : el contenido sintético está diseñado para excitar tus papilas gustativas pero no tiene fibra, vitaminas, proteínas o aminoácidos esenciales. Cuanto más comes más hambre te da. Esta insatisfacción, que debería ser motivo suficie...

Las neuronas o los genes son elementos que han servido más para oscurecer que esclarecer. Son simplificaciones tan burdas que probablemente no explican nada. Por eso seguimos sabiendo tan poco sobre el cerebro . Y todavía menos sobre el cuerpo humano. Nuestra ignorancia no consiste únicamente en observar la parte emergida del iceberg mientras el volumen decisivo permanece sumergido; consiste, además, en creer que esa superficie visible contiene ya la gramática de lo oculto, cuando apenas ofrece una serie de correlaciones cuya utilidad práctica no debería confundirse con una comprensión de los mecanismos que las producen. Ralph Adolphs  y  David J. Anderson  formularon esta limitación con una claridad poco frecuente en  The Neuroscience of Emotion . Su ejemplo es deliberadamente prosaico, precisamente porque la evidencia suele esconderse en las analogías más elementales: Podemos predecir si un coche se mueve o no, y a qué velocidad, “visualizando” su velocímetro. Es...

Riachos Feynman Somos, como especie, resolvedores de misterios. Llevamos en la cabeza una máquina de predicción que se enfrenta permanentemente a la incertidumbre. Sin embargo, hay una duda, una intriga que parece querer mantenerse a salvo de cualquier experimento o hipótesis: el más allá, el concepto de Dios , lo sagrado. ¿Tiene que ser así? Entender algo, robarle secretos a la naturaleza, no le quita magia o belleza; por el contrario, es profundamente mágico y bello. Partimos de la base de que todo tiene una explicación, aunque nos cueste encontrarla, aunque los instrumentos para entender el universo aún nos queden cortos. Pero que esa explicación esté lejana no significa que no debamos comenzar a buscarla. La gran pregunta –o una de las grandes preguntas– sigue siendo si las necesitamos, si necesitamos esa fe y esas religiones para ser humanos, para portarnos bien, para ayudarnos, para maravillarnos con la vida y sus encrucijadas. La historia parece decirnos que sí, que ...

¿Qué pasaría si no pudiéramos olvidar? ¿Qué ocurre cuando el cerebro pierde esa capacidad de borrar lo innecesario? Un ejemplo muy claro lo encontramos en el cuento Funes el memorioso (1944), de Jorge Luis Borges . En esta historia, Borges desarrolla una idea que ya había planteado Friedrich Nietzsche : el olvido no es un fallo, sino una función esencial. En La genealogía de la moral , Nietzsche lo describe como una especie de “digestión mental” que nos permite vivir el presente sin quedar atrapados en el pasado. Dicho de forma sencilla, olvidar no solo sirve para borrar recuerdos inútiles. También nos ayuda a ordenar el constante flujo de información que genera nuestro propio cuerpo y nuestra mente. Sin ese filtro, viviríamos saturados, incapaces de pensar con claridad o disfrutar del momento.   En el cuento, Borges relata la historia de Ireneo Funes , un joven que, tras un accidente, adquiere una memoria absolutamente extraordinaria. Puede recordarlo todo con un nivel de d...

Las máquinas y los humanos decidimos de una manera muy diferente; estamos especialmente dotados para un tipo de situaciones y somos muy torpes en otras. Los algoritmos cumplen una función cuando los criterios están bien definidos y son cuantificables, sujetos a reglas estrictas, matematizables, que se pueden elaborar con criterios lógicos y estadísticos, pero tienen muchas dificultades a la hora de “lidiar con la ambigüedad, con los medios tonos y las insinuaciones que impregnan la conversación humana, las sonrisas o los silencios, que son señales de comunicación no verbal que significan cosas distintas en contextos culturales diferentes” ( Nowotny ). Los juegos como el ajedrez o el go tienen unas recompensas sencillas, unos tipos de jugadas limitadas, no hay nada oculto y los límites están claros. Pero las situaciones reales en el mundo no tienen límites, no se sabe qué hay dentro ni fuera de la situación. Las limitaciones cognoscitivas de la inteligencia artificial se deben al hecho...

Hui sugiere que estas máquinas no son inocentes. Justamente, como se vio en el caso de máquina schmittiana, las máquinas son esencialmente políticas. Por eso, me gustaría pensar un poco más allá de Hui y pensar un modelo adicional: las máquinas girardianas . René Girard fue un filósofo francés que realizó buena parte de su carrera en los Estados Unidos. A lo largo de sus textos, Girard habla (casi obsesivamente) de una única teoría, la teoría mimética . En pocas palabras, para Girard, el deseo es mimético: se quiere lo que quiere el otro. Se quiere lo que quiere el otro porque lo quiere el otro. Pero en este espejismo libidinal se termina odiando al otro, que funcionó como modelo del deseo. Para Girard, este es el origen de los conflictos y de la violencia. Cuando todos empiezan a desear lo mismo surge la violencia, todo se confunde. La única forma de reestablecer el orden es sacrificando a un chivo expiatorio . Alrededor de esta víctima, la sociedad vuelve a unificarse. Girard encont...

Ahora bien, si pensamos Kant Machine en relación a Machine and Sovereignty (2024), el libro más “político” de Hui, podemos preguntarnos por otras máquinas, máquinas políticas y máquinas de guerra. Las máquinas decisionistas son también cibernéticas en cierto sentido, pero de un modo diferente: no dependen de información almacenada como la máquina humeana. Trabajan con la excepción. El filósofo Carl Schmitt distinguió tres tipos de pensamiento jurídico: el normativismo (= mecanismo), el pensamiento de orden concreto (= organicismo), y el decisionismo (su propia posición). El soberano, para Schmitt, es “aquel que decide sobre la excepción”. La excepción no es una falla del sistema: es su alma. Como escribe Schmitt: “La excepción es más interesante que la regla. La regla no prueba nada; la excepción lo prueba todo. En la excepción, el poder de la vida real irrumpe a través de la costra de un mecanismo que se ha vuelto entumecido por la repetición”. Hui lee esto como vitalismo político:...

Kant , en la Crítica de la razón pura , propuso superar tanto el racionalismo cartesiano como el empirismo humeano . La filosofía trascendental no niega que los seres humanos poseamos ciertas estructuras innatas de conocimiento, pero tampoco niega que sin información externa esas estructuras son inservibles. Kant propone combinar categorías a priori (independientes de la experiencia) con un empirismo mucho más consecuente: solo podemos acceder a aquella porción de la realidad filtrada por las formas de nuestra subjetividad, espacio y tiempo. Eso no quiere decir que el mundo sea una ficción, sino únicamente que está mediado por nuestras formas de conocer. La inteligencia, en esta lectura, “no es ni racional ni empírica; es trascendental”, dice Hui . Las máquinas kantianas son máquinas abiertas, máquinas creativas, que intentan superar tanto el mecanicismo como el organicismo . Se basan en una razón que si bien no puede intuir directamente el infinito, puede imaginarlo, cosa que la ...

Yuk Hui La inteligencia artificial no surge de imitar el pensamiento . La “artificialidad” de una inteligencia no se mide meramente por su cercanía a la inteligencia humana. Las máquinas son humanas en la medida en que los seres humanos son maquínicos. Después de todo, la evolución de nuestra “inteligencia” hubiera sido imposible sin la evolución de los artefactos técnicos que la expanden desde la utilización del fuego. Así, pensar la inteligencia artificial implica pensar la inteligencia humana, cómo se produce, cómo evoluciona, cómo se transforma, cómo modifica los artefactos que la rodean y cómo esos artefactos artificializan a su vez la inteligencia humana . La inteligencia humana es, desde el principio, técnica. Matteo Pasquinelli desarrolla esta tesis en su libro The Eye of the Master (2023): “the inner code of AI is constituted not by the imitation of biological intelligence but by the intelligence of labour and social relations”. Las máquinas del pensamiento son, entonces, ...

Anthropic reunió a 15 pensadores cristianos   y les enfrentó a una de las cuestiones más peliagudas de nuestro tiempo: ¿cómo podemos asegurarnos de que Claude se comporte bien? Desde luego, si Claude, ChatGPT, Gemini o cualquier otro modelo grande de lenguaje   (large language model,   LLM) se va a poner a pilotar cazabombarderos, a pegar pepinazos donde le dé la gana y a vigilarnos 24/7, más nos vale que primero aprenda a comportarse. Y el problema, naturalmente, es que a ver quién es el guapo que decide en qué consiste comportarse, qué es ser bueno o malo, cuál es la fuente de la moral y todas estas grandes preguntas con las que llevamos bregando 10.000 años. ¿O eran 100.000? Según   los teólogos que asistieron a esas reuniones,   los directivos de Anthropic se han dado cuenta de que el poder de Claude ha empezado a desbordar su sabiduría empresarial y han percibido que necesitan ayuda externa. Ese reconocimiento les honra, sin duda. Lo que no veo tan claro es...