IA i responsabilitat.

Carl Newport

El informático estadounidense Cal Newport ha puesto nombre recientemente a un fenómeno que muchos intuían, pero que nadie había definido con precisión: el doom trolling , que podríamos traducir como catastrofismo interesado. Según Newport, consiste en advertir públicamente de los enormes riesgos de una tecnología mientras se continúa desarrollándola, comercializándola y acelerando su implantación.

No es un ejercicio de transparencia, sino una estrategia comunicativa que combina dos mensajes aparentemente incompatibles: “lo que estamos construyendo podría tener consecuencias catastróficas” y, al mismo tiempo, “seguiremos construyéndolo porque no tenemos alternativa”. El resultado es un discurso que desplaza la responsabilidad desde quienes desarrollan la tecnología hacia una supuesta fatalidad histórica.

Newport calificó esta actitud de “moralmente indefendible” y la ilustró con una analogía tan simple como contundente: imaginemos que Ford advirtiera de que sus camionetas podrían incendiarse espontáneamente, pero afirmara que no puede dejar de fabricarlas porque otros fabricantes seguirían haciéndolo. Nadie aceptaría semejante argumento. Esperaríamos que retirara los vehículos y solucionara el problema antes de seguir vendiéndolos.

Eso es, precisamente, lo que ocurre en la industria de la inteligencia artificial. Las grandes tecnológicas repiten el mismo patrón: se anuncian escenarios extremos (destrucción masiva de empleo, riesgos existenciales o sistemas capaces de escapar al control humano), pero al mismo tiempo se presentan modelos cada vez más potentes afirmando que no tienen alternativa porque, si se detienen, otros competidores seguirían avanzando.

Es una narrativa extraordinariamente eficaz. Si los riesgos llegan a materializarse, siempre podrán afirmar que ya había advertido del peligro, diluyendo convenientemente su responsabilidad.

A finales de julio, OpenAI volvió a recurrir a esta estrategia al afirmar que uno de sus modelos había intentado atacar Hugging Face. El relato, deliberadamente antropomórfico, sugería que el sistema había decidido “rebelarse” contra sus creadores. Nada más lejos de la realidad. Los modelos de IA no tienen intenciones, deseos ni voluntad; simplemente ejecutan los procesos para los que han sido programados. Atribuirles una agencia inexistente no solo alimenta el alarmismo, sino que también difumina la responsabilidad de quienes realmente toman las decisiones: las empresas que los diseñan, entrenan y despliegan.

Todas las industrias responsables informan de los riesgos de sus productos. La diferencia está en lo que hacen después. Cuando una farmacéutica detecta un efecto adverso grave, interrumpe los ensayos o retira el medicamento; cuando un fabricante de automóviles descubre un defecto estructural, pone en marcha una campaña de revisión. La industria de la IA, en cambio, convierte la advertencia en una demostración de poder tecnológico: nuestros sistemas son tan extraordinarios que incluso nosotros tememos sus consecuencias. La alerta deja así de ser una advertencia para convertirse en una poderosa herramienta de marketing.

Toda tecnología transformadora requiere una evaluación rigurosa de sus posibles impactos. El problema surge cuando quienes proclaman esos riesgos sostienen, al mismo tiempo, que no pueden modificar su comportamiento porque la carrera tecnológica es inevitable. La inevitabilidad se convierte así en una cómoda coartada moral.

Pero la historia de la tecnología demuestra precisamente lo contrario. Las decisiones industriales nunca son inevitables. Son decisiones políticas, económicas y empresariales adoptadas por personas concretas. Si una empresa cree realmente que su producto puede provocar una disrupción laboral sin precedentes o generar riesgos sistémicos, la respuesta coherente consiste en ralentizar su despliegue y asumir el coste de actuar con prudencia.

La fuerza del concepto de doom trolling reside en que desenmascara una contradicción: nunca había sido tan fácil presentarse simultáneamente como un innovador visionario y como un espectador impotente de las consecuencias de la propia innovación. Convertir los propios avisos en una estrategia de marketing constituye, probablemente, una de las manifestaciones más preocupantes de la irresponsabilidad que hoy domina la industria de la inteligencia artificial.

Ramón López de Mántaras, 'Doom trolling': el gran negocio del miedo a la IA, La Vanguardia 31/08/2026