Per què no utilizar la IA per a pensar?

Jianwei Xun se presentó como un filósofo hongkonés, autor del libro Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad, publicado por la editorial italiana Tlon y reeditado por la española Rosamerón. Su obra pareció ser bien recibida en ciertos círculos y fue reseñada en varios lugares (incluyendo El País), generando cierto debate. El caso es que la periodista italiana Sabrina Minardi estaba detrás de conseguir una entrevista con él, y en vistas a que no se la concedía, terminó por descubrir el fraude: Jianwei Xun no existe, era la creación del ensayista y editor Andrea Colamedici, utilizando ChatGPT y Gemini para la escritura del libro. 

Dos conclusiones iniciales: primero, la mediocridad del mercado editorial filosófico con respecto a la calidad de sus productos se hace muy patente: las ideas de la supuesta obra de Xun son una chorrada más de las que, ignoro por qué, gustan tanto en determinados círculos filosóficos. Segundo , la mediocridad del mercado editorial filosófico con respecto a las modas se hace muy patente: si el filósofo en cuestión se llamara Javier García y fuera de Burgos, jamás se hubiera hablado de su libro. Llamarte Jianwei Xun y ser hongkonés te hace mucho más cool.  Compruébese  el paralelismo con autores actuales como Biung-Chul Han o Yuk Hui.  

Una conclusión posterior más interesante: me alegra que el primer libro que han colado fraudulentamente sea de este corte filosófico y, como si de un nuevo caso Sokal se tratara, haya servido para dejar en ridículo una vez más la filosofía de mierda que hacen muchos. Sin embargo, pronto veremos obras de muchísima más calidad diseñadas por IAs, colarse en el mercado editorial. Vamos a tener un momento en el que conviviremos con muchas obras artificiales en diverso grado, y aquí habrá que tomar decisiones sobre autoría muy importantes.

Imaginemos dos escenarios: 

Escenario 1:

Estoy en el despacho de mi casa en Churriana de la Vega (Granada). Tengo infinitas hojas de papel en las que escribir mis ideas, darles forma y, sobre todo, evitar que se me olviden. Tengo lápices, bolígrafos de diferentes tipos y colores para señalar, subrayar, resaltar, tachar… Tengo borradores que me permiten eliminar lo que no me parece bueno. Tengo una gran biblioteca de la que me he leído gran parte de sus libros. Así, he integrado en mi mente un montón de conocimiento atesorado por mis predecesores, he aprendido su forma de escribir, la lógica con la que pensaban y argumentaban. Cuando escribo, seguramente que gran parte de lo que digo ya haya sido dicho por otros en el pasado. Quizá gran parte de lo que escribo lo leí en algún lado pero ya he olvidado dónde y creo, falsamente, que es algo íntegramente creado por mí. En general, creo que lo que escribo es una mezcla confusa de todas estas influencias y mi parte: mi biografía, mis circunstancias personales, mis anhelos y deseos, mi época y sus problemáticas… Sin embargo, a pesar de todo ello, firmo mis escritos exclusivamente con mi nombre y yo, y exclusivamente yo, recibo todos los premios, honores y méritos por la escritura de mi obra. A lo sumo, y en un gesto de cortesía por mi parte, puedo citar una serie de fuentes bibliográficas al final. Quizá sea un efecto de la lógica capitalista, hacer ver a todos que ha sido un logro individual lo que a todas luces ha sido una obra colectiva. El claro engaño de la meritocracia.

Escenario 2:

Voy paseando por la vega del río Dílar (Granada) como buen flâneur que soy. Tengo un dispositivo (si está integrado en mi cerebro o fuera de él no es relevante) conectado a una IA albergada en algún centro de datos en Nevada. Ésta es un LLM muy avanzado, entrenado tanto con todos los libros que yo he leído, como con todos mis escritos (o incluso con los libros que me gustaría leer y que todavía no lo he hecho, con los libros de unos autores en concreto que quiero estudiar, o con todo lo que jamás haya sido escrito; esto a gusto del consumidor). Funciona como una voz con la que puedo dialogar mientras camino. Así, le pido que amplíe las ideas de un boceto de apenas unas líneas que escribí hace unos días, que saque alguna conclusión de él que a mí se me pudiese haber pasado por alto, o que busque críticas a las tesis que allí yo defendía. Le digo que corrija mi estilo literario, que mantenga un tono más serio, más desenfadado o más agresivo con el objeto de crítica… Le digo que me sugiera alguna cita en latín (o en francés si quiero ser más pedante) pertinente para encabezar el texto, que busque una anécdota histórica que pudiese encajar con el tema del que se habla para amenizar el relato… Él me va presentando resultados que yo elijo o descarto según mi criterio, exactamente igual que cuando generamos imágenes con Midjourney. Incluso, si nos placiera, podríamos hacer que ella realizara esas elecciones. Estaríamos dejando que la máquina hiciera, prácticamente, todo el trabajo mental en el que consiste pensar. Solo seríamos como una especie de supervisores de una cadena de montaje, contemplando el proceso y comprobando que todo sale bien ¿Qué autoría tendríamos entonces en esta obra? Si sostenemos que el propietario del producto del trabajo es el que pone la fuerza de trabajo, en este caso está claro que la IA es la que más trabaja…

Si comparamos ambos escenarios, vemos que el primero es el que hemos usado siempre para filosofar durante siglos, y en el que hemos aceptado que el autor es el individuo que, al final, firma el escrito. Quizá la principal razón haya sido su funcionalidad: es mucho más fácil otorgar los méritos o retribuciones a un solo individuo, que no a una cadena, muy difícil de delimitar, de influencias y herramientas. El segundo escenario es el que ya está aquí, no es ciencia-ficción. Si analizamos la diferencia entre ambos escenarios es, al menos después de un primer vistazo, de grado. Ahora hay más elementos del proceso de pensamiento que han sido externalizados, que han sido automatizados por la máquina. Antes, usábamos el libro como inspiración y el cuaderno como memoria, ahora podemos también mecanizar gran parte del proceso de planificación, ideación y escritura. De hecho, aquí la pregunta más peliaguda, e interesante, es: ¿qué parte no podemos mecanizar aún? Y la pregunta a la que yo quería llegar es: ¿por qué en el primer escenario reconocemos claramente al autor mientras que en el segundo no? ¿Es solo una cuestión de grado o existen elementos en el proceso de creación humana que no podemos automatizar?

Una conclusión mala: he leído en muchos sitios que estamos siendo muy estúpidos al orientar la hoja de ruta de la IA. Todos queremos que las máquinas nos hagan la colada, planchen nuestra ropa y cocinen, para que nosotros tengamos más tiempo para pensar, escribir, dibujar… crear. Sin embargo, parece que estamos haciendo las cosas al revés: me pongo a planchar mientras dejo que la IA escriba mi libro o pinte mi cuadro. Esto es muy cierto ¿Seremos tan imbéciles de acabar sirviendo a las máquinas y no al contrario? Y, además, a esto se añade que si dejamos a la IA que piense por nosotros, cada vez seremos más torpes pensando. Si en vez de ir andando a los sitios, voy siempre en coche, perderé forma física y mi capacidad de andar se verá mermada. Si cada vez que tengo que pensar algo, le digo a ChatGPT que me de ideas, mi capacidad de generar ideas, mi imaginación, se verá mermada. Platón se quejaba de que con la aparición del libro perdíamos capacidad de memorización. Veremos ahora qué capacidades se vienen abajo en estos tiempos y si no estaremos ante un nuevo efecto Flynn inverso.

Y una conclusión buena: la IA nos da una potencia de fuego para pensar altísima. Si nos quitamos de encima el yugo de la propiedad intelectual, ¿qué más da que una idea la haya tenido un humano o una máquina si la idea es buena? Así, si la IA me ayuda a ser más creativo, a tener mejores ideas, a razonar mejor, etc. el producto final, que es de lo que a fin de cuentas lo importante, será mejor. De lo que se trata no es de ponerse ludita y no utilizar la IA por mantenerse 100% humano puro, sino usarla con criterio para conseguir objetivos valiosos. Si mi ensayo es más claro, ordenado, preciso, profundo… por haber utilizado IA, ¿por qué no usarla?

Santiago Sánchez-Migallón Jiménez, El caso del filósofo artificial, La Máquina de Von Neumann 28/05/2025