Carissa Véliz: "La IA és un producte dolent en molts sentits"

Carissa Véliz

... parece que los nuevos líderes y los ejecutivos tecnológicos se basan en la ciencia para hacer esas predicciones. Pero el hecho es que están utilizando inteligencia artificial, no necesariamente ciencia. Y un ejemplo muy claro es cómo el uso de IA está insertando más y más errores en los artículos científicos. (...) ¿Qué es ciencia y qué no? Porque cuando hacemos predicciones sobre los seres humanos, solemos influir en su comportamiento. Eso no es ciencia, porque no eres un observador imparcial, sino que estás influyendo en aquello que aseguras predecir.

A pesar de que la tecnología es muy diferente y hay muchos aspectos que son novedosos, la realidad es que el rol político que está jugando tanto la tecnología de la inteligencia artificial como las personas que la desarrollan, la defienden y la venden, es incómodamente similar al rol que jugó en su momento el Oráculo de Delfos, y luego los astrólogos, y luego los expertos en ciencias sociales, y luego brevemente los economistas. Ahora es esta tendencia la que ha tomado el testigo.

... desde mi punto de vista, el filósofo más interesante que ha estudiado este tema es Karl Popper. Es muy relevante porque es un filósofo de la ciencia, pero también porque vivió la Segunda Guerra Mundial, cómo se usó el poder en ese momento y las consecuencias de aquel mal uso. Una de sus observaciones es que, por definición, la historia no se puede predecir porque depende mucho de los avances tecnológicos y científicos, y nunca podemos estar seguros de qué vamos a descubrir, porque si lo pudiéramos predecir ya lo habríamos descubierto.

Entonces, una manera de expresarlo es que cuando nos volvemos más precisos en la predicción del comportamiento humano, no es un síntoma de avance científico, sino un síntoma de avance autoritario. Porque la manera más precisa de predecir el comportamiento de alguien es determinarlo. Si tú quieres saber exactamente dónde va a estar alguien mañana, encarcélalo, así no tendrás duda.

Hay tanta colaboración entre las grandes tecnológicas y los estados que hay momentos en donde no se sabe muy bien si las primeras están ayudando a los países a cumplir sus objetivos, o es al revés. ¿Y quién es el dominante? Hay momentos en los que parece claramente que son las grandes tecnológicas las que lo hacen, que tienen más poder y que pueden decidir cuáles son las reglas que siguen. Entre otras razones, porque las agencias que deben vigilarlas tienen menos dinero y capacidades que ellas. Pero también es una cuestión cultural, como un mal hábito en el que hemos caído.

Además, vemos ironías como la de Palantir, que acumula cada vez más contratos con los gobiernos y acceso a muchísimos datos sensibles, a pesar de que es una compañía fundada por libertarios que no creen que debiera existir el gobierno. Nunca han escondido su ideología. Pero otro punto muy importante para Europa, expresado recientemente por Bruno Giussani en una TEDx Talk, es que necesitamos asegurarnos de tener soberanía digital, de que no dependamos de compañías que en cierto momento pueden bloquear el acceso a servicios digitales. Esto ya no es hipotético. Acabamos de ver cómo Estados Unidos le ha pedido a Anthropic que limite el acceso a ciertos modelos por parte de extranjeros. Es una oportunidad, porque lo que me gustaría ver es a Europa innovando y creando productos que puedan ayudar a la democracia, y no erosionarla. Que no sean productos hechos a medida para un sistema autoritario.

En realidad, parte de la crítica a la inteligencia artificial actual es que es un mal producto. Es un producto muy poco fiable, que todo el tiempo está confabulando, que usa muchísima energía, que no está claro que esté mejorando la productividad, que está insertando errores en ámbitos tan importantes como la ciencia o la justicia, que se basa en predicciones y, por lo tanto, no está basada en hechos ni diseñada para ceñirse a la verdad. Un muy mal producto, en muchos sentidos.

Una de las características de los profetas es que suelen tratar de asustar a la población, porque mientras más asustados estemos, más vamos a querer que alguien nos diga cuál es el futuro. Es una reacción natural en nosotros. Paradójicamente, al hacer estas predicciones tan oscuras del producto que ellos mismos están desarrollando, consiguen que la gente les conceda mucho más poder. La reacción es 'Ok, sálvame de este futuro tan terrible', sin reflexionar suficiente acerca de que son ellos los que están construyendo este futuro. Lo importante es no permitir que lo hagan, porque el futuro no está escrito.

Algo sobre lo que he estado reflexionando últimamente es que es interesante que este tema de la superinteligencia sea la obsesión de varias... personas notables, notorias, famosas, pero casi todas ellas son hombres. No me parece una coincidencia. Este no es solamente un debate intelectual, también es estético. Estas personas suelen ser hombres blancos que crecieron leyendo cómics de Marvel y que sienten atracción, en un sentido bastante literal de la palabra, por estos relatos apocalípticos. Que, por otra parte, son muy antiguos, ya que vienen de los mitos griegos que luego se han repetido en fábulas una y otra vez. Eso nos vuelve a traer esta observación de que la profecía, como patrón, es algo que ya hemos visto antes. Que no es tan nuevo.

Carlos del Castillo, entrevista a Carissa Véliz: "Silicon Valley se parece cada vez más a una secta", eldiario.es 18/06/2026