L'àgora digital agonitza.

La IA política opera bajo esta lógica: ya no se busca convencer, sino saturar al usuario hasta anular su capacidad crítica. Esta amenaza que ya es grave, se ve acrecentada en aquellas generaciones cuya única socialización tiene forma de algoritmo.

Ya no es cuestión del uso de microtargeting por los partidos políticos (que también es un temazo a abordar) sino que la expansión y democratización de la IA permite que cualquier persona, sea cual sea su nivel de programación (y hay que de decirlo, de alfabetización) puede crear una imagen que a pesar de ser burdamente falsa para una erudita mayoría, expanda el caos. No se trata únicamente de mentir, sino de crear contextos donde la verdad se convierte en algo irrelevante o indiscernible.

Esta facilidad con la que se producen contenidos falsos ha provocado un desgaste extremo en la capacidad y las ganas de los ciudadanos para discernir lo real de lo fabricado. Estamos produciendo una fatiga cognitiva y emocional que conduce al ciudadano medio a desconectar completamente del proceso democrático o, peor aún, a refugiarse en cámaras de eco donde solo encuentra validación para sus prejuicios a golpe de IA y humor.

La automatización del fanatismo político, a través de bots cada vez más sofisticados, está logrando algo que ni la propaganda tradicional ni la censura autoritaria habían conseguido plenamente: transformar la indiferencia en una herramienta política efectiva. La ciudadanía, abrumada por un entorno en constante crisis de credibilidad y una crisis real de “las cosas del comer”, renuncia gradualmente a su responsabilidad cívica, aceptando la manipulación como inevitable o resignándose a la apatía.

Regular o no regular, esa es la cuestión

Varias resoluciones de las Naciones Unidas han reafirmado la necesidad de controlar este despropósito, ya que «los mismos derechos que tienen las personas fuera de línea deben protegerse en línea ». Está claro que necesitamos actuar ante la intromisión de estas tecnologías en el día a día democrático, pero la disyuntiva es al siguiente: la IA evoluciona exponencialmente más rápido de lo que pueden hacerlo nuestras instituciones democrática que son tradicionalmente lentas, burocráticas y deliberativas.

Pero por otro lado, si no ponemos ningunas reglas al juego ponemos (aún más) en riesgo la esencia democrática. Si no actuamos ahora, nos enfrentaremos inevitablemente al colapso definitivo del ágora digital, perdiendo para siempre la capacidad colectiva de discernir entre lo real y lo manipulado, condenándonos a vivir atrapados en burbujas de falsas realidades algoritmizadas. Esta disyuntiva no es nueva. De hecho, ya la debatieron nuestros representantes europeos.  El resultado fue la adopción del AI Act, o la Ley de la Inteligencia Artificial. Este texto que entró en vigor el 1 de agosto de 2024, se posiciona como el primer intento de regular la IA, y sobre todo, sus efectos adversos.

El AI Act y la Paradoja de Regular lo Irregulable

La cuestión es: si esta regulación ya está en vigor, ¿por qué seguimos viendo videos de Perro Sanxe en la Isla de las Corrupciones? ¿O videos de supuestos ciudadanos pidiendo tanto la dimisión de Sanchez, como la de Mazón? La respuesta está precisamente en los detalles del AI Act y en la manera en que los expertos han analizado sus limitaciones.

Según el AI Act, los contenidos generados por IA, como los deepfakes que tan populares se han hecho en redes, se clasifican generalmente como de «riesgo limitado», lo que implica obligaciones de transparencia, como la inclusión de marcas de agua o etiquetas que indiquen su origen artificial. Ahora bien, ¿realmente esto puede ayudar para evitar el colapso del ágora digital del que hablábamos? Lo dudo bastante. Estas medidas de transparencia suelen ser fácilmente eludibles o ignoradas deliberadamente, especialmente en plataformas descentralizadas o grupos privados donde la supervisión efectiva es casi imposible.

En definitiva, aunque el AI Act es un paso fundamental en la dirección correcta, la realidad evidencia que regular la inteligencia artificial, especialmente en contextos políticos y sociales, no puede limitarse a una legislación que por la naturaleza del proceso democrático, siempre va a ser reactiva. Para rescatar el ágora digital necesitamos combinar el ámbito legislativo con una educación digital sólida, una conciencia ciudadana capaz de cuestionar y filtrar constantemente la avalancha algorítmica, pero sobre todo voluntad política. Y eso, queridos amigos, es lo más complicado de encontrar.

El ágora digital agoniza no porque los algoritmos sean demasiado inteligentes, sino porque nuestra clase política es demasiado miope, lenta o directamente irresponsable como para actuar a tiempo. La democracia necesita menos espectáculo y más ciudadanos despiertos, críticos y capaces de rebelarse contra la posrealidad. Mientras tanto, la IA seguirá siendo el arma perfecta para quienes no buscan gobernar mejor, sino gobernar más fácil.

Elsa Arnaiz Chico, El colapso del ágora digital ..., Retina 18/03/2025