La IA és una agència, una realitat que pren decisions. (Yuval Noah Harari)

Yuval Noah Harari

Una herramienta es algo que está en tus manos, de la que tú tienes todo el control. Puede ser muy peligrosa, pero no toma decisiones. Un cuchillo no puede decidir si se usa para herir a alguien o para cortar una ensalada. Y la energía atómica no decide si destruye una ciudad o genera electricidad. Sin embargo, un agente es quien toma decisiones. Un arma con IA conectada a un dron, por ejemplo, puede decidir si se estrella contra este edificio o contra aquel. La IA también tiene sus propias ideas: inventa. Así, un arma con IA puede inventarse otra nueva arma, desconocida. Cuando la máquina de Google AlphaGo derrotó al campeón del mundo de Go (un antiguo y complejísimo juego oriental) en 2016, lo hizo inventando una nueva manera de jugar: no solo ganó; jugó como ningún ser humano lo había hecho antes. Bien, pues tratándose de un juego puede valer. Pero esa misma inventiva se puede aplicar en la industria militar, en las finanzas, en la ciencia. La IA puede inventar nuevas medicinas que nosotros no podemos concebir, es cierto; pero también puede crear nuevos instrumentos financieros. ¿Qué pasaría si el sistema financiero estuviera controlado por máquinas de IA actuando como actuaban con el juego del Go?. Imagine miles de máquinas de IA invirtiendo dinero, moviendo por su cuenta ingentes cantidades de aquí para allá…

Técnicamente, tú puedes darle ya hoy unos millones de dólares a la IA y ordenarle que gane más dinero; y la IA puede empezar a dar instrucciones para hacerlo, comprando o vendiendo compañías, invirtiendo en fondos, adquiriendo acciones…

En el fondo, invertir es obtener, cotejar y analizar datos para decidir. La IA puede analizar más información, mucho mejor y mucho más rápido que cualquier inversor humano. Así que no hoy, pero en cinco o diez años el sistema financiero puede que esté controlado por IA. Ahora no está permitido, un terminal de IA no puede tener una cuenta bancaria porque no tiene entidad jurídica, porque para eso necesitas ciertos requisitos legales que solo pueden obtener los humanos. Pero esto puede cambiar. Hace un mes, leí que el Gobierno de Argentina había dado el permiso para crear empresas dirigidas por entidades no humanas. La IA puede inventar y manejar artefactos financieros que nosotros no llegáramos a entender. Un nuevo tipo de dinero, en el fondo. Para que se entienda: piense en que ningún animal entiende nada del sistema financiero. Pero sufren sus consecuencias. Imagine un caballo. Usted puede comprarme a mí un caballo, ingresa el dinero y yo se lo entrego. El caballo ve que cambia de sitio, que está peor, o mejor, el sistema financiero controla la vida del caballo, pero el caballo ni lo sabe ni lo ve. Hasta ahora, los seres humanos nos sentíamos muy bien porque sabíamos de dinero más que cualquier otro ser en el planeta. Ahora hay alguien que, potencialmente, sabe más que nosotros. Veremos en un futuro que alguien conserva su trabajo, que otro lo pierde... pero no entenderemos por qué. Nosotros utilizamos las finanzas para coordinar nuestras acciones económicas. La IA puede utilizar las finanzas para coordinar sus propias acciones económicas, y puede que nosotros ni siquiera las entendamos.

El principal objetivo de cualquier agente es sobrevivir. Así que actuará como cuando nosotros liquidamos un bosque para instalar una ciudad y les decimos a los animales: “Vale, lo siento, pero hay que irse”. La IA actuará así con nosotros, ni siquiera por maldad, sino porque precisa de más electricidad porque necesita más poder de computación.

Antonio Jiménez Barca, entrevista a Yuval Noah Harari: "La IA podría ser una gran psicópata manipuladora", El País 12/07/2026