La fantasia tecnològica.

Existe una fantasía tecnológica particularmente resistente, una de esas ideas que sobreviven a todas las refutaciones porque en realidad no pertenecen al territorio de las ideas sino al de la teología: que si construimos una inteligencia artificial lo bastante poderosa (no un GPT-17 ni una granja de GPUs del tamaño de Islandia, sino una inteligencia de magnitud genuinamente cósmica, una especie de HAL 9000 sin neurosis homicida y con acceso administrativo a la realidad) podremos finalmente sentarla delante de los problemas humanos y preguntarle qué hay que hacer.

Cómo acabar con la pobreza.

Cómo detener el calentamiento global.

Cómo conseguir viviendas asequibles.

Cómo construir una democracia justa.

Cómo hacer felices a ocho mil millones de personas que no se ponen de acuerdo ni sobre la temperatura correcta del aire acondicionado.

La máquina procesaría los datos, emitiría un zumbido que probablemente los ingenieros decidirían eliminar en la versión 2.1 y, después de unos cuantos petaflops, nos entregaría la respuesta.

¿Entonces sí? ¿Por fin la IA nos arreglaría la papeleta?

La respuesta corta es no.

La respuesta larga es que ni siquiera la inteligencia más poderosa físicamente construible dentro del universo conocido podría hacer exactamente eso, y no porque le faltaran procesadores, memoria, datos meteorológicos, historiales de transacciones, imágenes Sentinel-2, declaraciones fiscales, genomas, registros catastrales, artículos de Nature desde 1869 y el equivalente digital de la Biblioteca de Babel de Borges, sino porque estamos confundiendo dos categorías de problemas que superficialmente se parecen y que, debajo de la superficie, pertenecen a especies epistemológicas distintas.

Hay problemas difíciles porque contienen una cantidad obscena de información.

Y hay problemas difíciles porque la información necesaria para resolverlos todavía no existe.

La diferencia es considerable.

Cuanto más detallado construimos un modelo del primer tipo, más variables incorporamos, más relaciones parametrizamos y más capacidad computacional necesitamos. Pero cuando intentamos hacer lo mismo con un sistema complejo aparece una anomalía bastante menos espectacular que HAL 9000 y bastante más desagradable: cada incremento de detalle exige también decidir qué variables cuentan, qué relaciones son relevantes, qué reglas siguen los agentes, qué información poseen, cómo reaccionan a la información de los demás y hasta qué punto esas reacciones modifican aquello que precisamente pretendíamos predecir.

El modelo se vuelve matemáticamente más preciso mientras puede estar volviéndose epistemológicamente más falso.

Un precio de mercado, por ejemplo, parece desde lejos una cifra. 487.300 euros por un piso de setenta y ocho metros cuadrados en una determinada calle. Una cantidad perfectamente compatible con una hoja de Excel, una API inmobiliaria y la convicción ancestral de los seres humanos de que aquello que tiene números ha sido domesticado.

Pero el precio no es realmente una cosa. Es un acontecimiento.

Es el residuo momentáneo de miles o millones de decisiones tomadas por compradores, vendedores, bancos, constructores, funcionarios municipales, propietarios que heredaron un piso en 1998, parejas que van a divorciarse en noviembre, fondos que modificaron su coste de capital el martes, arquitectos que todavía no han solicitado una licencia, personas que creen que los tipos de interés bajarán y otras que han leído exactamente la misma noticia y han llegado a la conclusión contraria. Una hipoteca, un divorcio, el euríbor, tres estaciones de metro, una normativa de edificabilidad y el recuerdo de una cocina con baldosas hidráulicas pueden participar en la formación de una misma cifra sin pertenecer, en ningún sentido razonable, a la misma categoría.

Y mientras intentamos calcularla, cambia. Más exactamente: cambia porque intentamos calcularla.

Una predicción suficientemente creíble sobre el precio futuro de un activo altera las decisiones presentes de quienes poseen ese activo, que alteran su precio, lo que modifica la predicción que había producido aquellas decisiones, que obliga a producir otra predicción.

Ahí termina una determinada fantasía de la computación.

No es que las máquinas sean poco inteligentes, sino que hemos pedido a la inteligencia que haga el trabajo de un proceso.

Hay problemas computacionalmente difíciles cuya solución está, por decirlo así, enterrada dentro de los datos. Descubrir la estructura tridimensional de una proteína, localizar determinadas regularidades estadísticas en diez millones de historiales o detectar una correlación que ningún investigador humano habría encontrado después de cuarenta años de mirar columnas de números son problemas para los cuales más capacidad computacional puede resultar extraordinaria.

La inteligencia artificial pertenece naturalmente a ese mundo. Puede explorar volúmenes de información. Puede encontrar regularidades demasiado débiles, demasiado numerosas o demasiado multidimensionales para nuestros tres kilos aproximados de tejido nervioso.

Pero existe otra clase de problema. En ella, la respuesta no está esperando dentro de los datos. Tiene que ser producida por el sistema.

La evolución biológica funciona así. También determinados ecosistemas. También la ciencia, cuando realmente está haciendo ciencia y no administrando bibliografías. Y también, con todas sus patologías, asimetrías y episodios recurrentes de estupidez colectiva, el mercado.

Darwin no necesitaba conocer el algoritmo genético porque no existe un comité central de selección natural reuniéndose los martes. Una selva tropical no contiene en alguna parte un departamento de planificación que determine la proporción óptima entre hongos micorrícicos, árboles del dosel, insectos xilófagos y humedad del suelo. La ciencia no avanza porque alguien calcule desde un despacho qué hipótesis serán verdaderas dentro de treinta años. Estos sistemas descubren soluciones mediante variación, interacción, fracaso, retroalimentación y selección. Y todo eso debe producirse en el mundo real, que es infinito, y no en el mundo cerrado de un modelo o incluso de internet, que es finito.

Por eso sustituir un proceso emergente por un cálculo centralizado puede producir una situación aparentemente absurda: disponer de más información y, simultáneamente, saber menos.

Una inteligencia artificial podría observar una sociedad con una resolución que habría provocado una erección metafísica en Jeremy Bentham. Podría registrar cada desplazamiento, cada transacción, cada consumo energético, cada cambio demográfico, cada permiso de construcción y cada modificación de los tipos de interés. Podría poseer una réplica digital de la economía con dashboards que harían parecer la sala de guerra de Dr. Strangelove un establecimiento de fotocopias.

Pero seguiría faltándole algo. El futuro que los agentes todavía no han creado.

Para resolver literalmente el problema de la vivienda de un país habría que simular a sus habitantes, empresas, instituciones, tecnologías y recursos con suficiente fidelidad como para reproducir sus interacciones; pero esos agentes tendrían que reaccionar a las condiciones generadas por la simulación, que a su vez tendrían que incorporar las reacciones de los demás agentes, incluidas las provocadas por conocer las predicciones del modelo, de manera que en algún punto la simulación dejaría de ser una representación de la sociedad y empezaría a exigir algo inquietantemente parecido a otra sociedad.

Una segunda España, pongamos. Solo que dentro de un ordenador. Y actualizada en tiempo real.

Llegados ahí, uno empieza a sospechar que hemos construido una cantidad bastante considerable de hardware para reinventar aquello que queríamos sustituir.

Porque el problema no era la ausencia de inteligencia. Era la naturaleza distribuida del conocimiento.

Las sociedades funcionan mediante relaciones dinámicas entre entidades que poseen información parcial, objetivos incompatibles, conocimientos locales, preferencias cambiantes y la costumbre irritante de aprender. Ningún agente contiene el sistema. Ningún servidor contiene necesariamente el sistema. El sistema existe en las relaciones.

Eso es, en una parte importante de la vida económica, lo que llamamos mercado.

No significa que los mercados sean infalibles, moralmente buenos o siquiera especialmente elegantes. La evolución tampoco es buena: produjo el nervio laríngeo recurrente de la jirafa, los tumores malignos y varias especies de avispas parasitoides cuya reproducción parece diseñada por David Cronenberg.

En suma, ciertos conocimientos solo aparecen mediante el funcionamiento del propio mecanismo.

Podríamos construir una inteligencia artificial con todos los recursos computacionales compatibles con las leyes conocidas de la física, llenar el sistema solar de estructuras de computación hasta que Freeman Dyson pareciera un urbanista ciertamente apocado, capturar la energía de una estrella y dedicarla íntegramente a calcular qué debería hacer la humanidad el lunes siguiente.

Seguiríamos encontrándonos con el mismo límite.

Salvo, naturalmente, que descubramos una física que permita efectuar cálculos fuera de nuestro universo, desplazarnos entre universos o utilizar regiones causalmente externas como una especie de AWS metafísico. En ese punto habríamos dejado atrás la inteligencia artificial y estaríamos haciendo cosmología especulativa con la arquitectura narrativa de The Hitchhiker’s Guide to the Galaxy.

Lo cual puede suceder. También puede no suceder. Mientras tanto quedan LAS PREGUNTAS que quizá ni siquiera estén bien formuladas.

¿Cómo hacemos más feliz una sociedad?

¿Cómo detenemos el calentamiento global?

¿Cómo construimos instituciones justas y democráticas?

¿Cómo reducimos la pobreza?

¿Cómo eliminamos la discriminación?

Nuestra tendencia consiste en formularlas como si fueran versiones monstruosamente difíciles de un sudoku: existe una solución, está ahí, alguien suficientemente inteligente podría encontrarla y, una vez encontrada, solo quedaría aplicarla.

Pero quizá la categoría sea incorrecta. Quizá no sean problemas que admiten una solución en el sentido en que una ecuación admite una solución. No porque sean demasiado grandes para nuestra inteligencia, sino porque aquello que llamamos solución cambia a medida que cambia la sociedad que intenta alcanzarla; porque cada intervención transforma los incentivos, la información, las expectativas y finalmente a los propios agentes, que dejan de ser aquellos para quienes habíamos diseñado la intervención inicial.

No hay una posición exterior. No existe la sala de control. Hay experimentos, instituciones, precios, normas, elecciones, descubrimientos, errores, tecnologías que nadie había previsto, catástrofes que alguien había previsto y nadie escuchó, retroalimentaciones positivas, retroalimentaciones negativas, personas que cambian de opinión y personas que dedican cuarenta años a demostrar que nunca la cambiaron.

Hay procesos. Vivos. Reales. Inescrutables.

La inteligencia artificial podrá participar en todo ello. Probablemente lo hará con una potencia difícil de exagerar. Podrá ampliar nuestra capacidad de observar, comparar, modelizar, diagnosticar y ensayar. Podrá enseñarnos regularidades que estaban delante de nosotros y que nuestra arquitectura cognitiva, diseñada para reconocer depredadores en la sabana y recordar quién debía un favor a quién, sencillamente no podía ver.

Lo que no podrá hacer es abolir la condición que convierte esos problemas en complejos. Porque la complejidad no consiste en que haya demasiadas piezas. Consiste en que las piezas se miran unas a otras como reflejos especulares que recuerdan a fractales. Y aprenden. Y al aprender cambian aquello que estábamos intentando comprender.

De modo que tal vez la máquina más inteligente del universo, después de procesar nuestras ciudades, nuestros mercados, nuestros modelos climáticos, nuestras constituciones, nuestras cadenas logísticas, nuestras injusticias y nuestros varios terabytes diarios de convicciones contradictorias, no terminaría entregándonos la respuesta.

Tal vez terminaría señalando el proceso.

Y nosotros, que habíamos construido una máquina del tamaño de un sistema planetario precisamente para no tener que confiar en él, tendríamos que decidir qué hacer a continuación.

La cuestión más espinosa, no obstante, será otra. Cuanto más prodigiosa se vuelva la IA resolviendo problemas formales, como las ecuaciones de Navier-Stokes, más peligrosa puede resultar nuestra tendencia a confundir todos los problemas con problemas formales. En matemáticas, encontrar una solución puede resolver un problema. En sistemas sociales, encontrar una solución suele crear una nueva versión del problema. Conviene no olvidarlo antes de entregarnos alegremente al Dios IA y dejar de verla como una alucinante calculadora.

Sergio Parra, ¿Podría una IA increíblemente poderosa resolver los grandes problemas del mundo?, Sapienciología 09/09/2026