El veritable perill de la IA no és com pensa, sinó com actua.

Hasta el presente, todos los logros en el campo de la inteligencia artificial han sido en el desarrollo de lo que se conoce como “inteligencia artificial particular”, específica o estrecha. Es decir, en la creación de sistemas computacionales que despliegan una gran capacidad, superior incluso a la humana, para realizar tareas muy específicas y bien definidas. Por ejemplo, jugar a un juego con reglas fijas (ajedrez, go, damas, videojuegos), responder a preguntas de cultura general, realizar diagnósticos médicos precisos (enfermedades infecciosas, tipos de cáncer, medicina personalizada), reconocer caras y otras imágenes, procesar e interpretar la voz humana, traducir de un idioma a otro.

En realidad, una parte sustancial de lo que hoy llamamos inteligencia artificial son sistemas de minería de datos, llamados así porque son capaces de analizar cantidades masivas de datos y obtener de ellos patrones desconocidos y lo que podríamos considerar como conocimiento nuevo sobre esos datos.

Por impresionantes que sean estos logros, estas tecnologías no alcanzan la versatilidad y flexibilidad de la inteligencia humana. Los sistemas más inteligentes de los que disponemos en la actualidad no pueden ser utilizados con eficacia en tareas diferentes a aquellas para las que fueron programados. Hay quienes piensan que ni siquiera los deberíamos llamar inteligentes, puesto que la única inteligencia que aparece en ellos es la del programador humano o la de los seres humanos en cuyo contexto social estos sistemas cumplen alguna función.Creo que, para analizar las consecuencias posibles de la inteligencia artificial, tanto favorables como desfavorables, discutir si se trata de inteligencia genuina, similar a la humana, con posibilidad de ser consciente o no, es desviar el foco del auténtico problema.

Lo que me parece que debería preocuparnos ahora no es si podremos crear inteligencia similar a la humana o superior, sino qué podrán hacer con nosotros las máquinas que creemos en el futuro, si es que estas tienen capacidad para tomar decisiones que se consideren en la práctica como inapelables en su autoridad. No es cómo piensen esas máquinas lo que importa, es cómo actúen, puesto que serán agentes con una cierta autonomía, y, sobre todo, cómo las insertaremos en nuestra ordenación social.

Lo relevante en todo esto será que los seres humanos acepten sin supervisión las decisiones que forjen dichas máquinas, así como las consecuencias que esas decisiones puedan tener sobre nuestras vidas, sobre todo si el propio ser humano cede el control.

En definitiva, es necesario promover instituciones y procedimientos que faciliten la defensa de los derechos de los ciudadanos frente a los riesgos potenciales de la inteligencia artificial, como, por ejemplo, la defensa del derecho a la privacidad, así como comenzar a pensar en los requisitos que serían fundamentales para un control efectivo de la IA, porque frente a lo que algunos nos dicen, no hay a priori ninguna razón incontestable para aceptar que el problema del control de la IA sea irresoluble.

Antonio Diéguez Lucena, En el control de la inteligencia artificial nos jugamos el futuro, the conversation 08/04/2023