Una IA capaç de governar-nos.






Las ventajas de usar una IA para la acción de gobierno serían varias. Por una parte, su capacidad de procesar datos y conocimiento para la toma de decisiones es muy superior a la de cualquier humano. También estaría libre (en principio) del fenómeno de la corrupción y no le influirían los intereses personales.


Pero, a día de hoy, los chatbots  solo reaccionan, se alimentan de la información que alguien le proporciona y dan respuestas. No son realmente libres de pensar “espontáneamente”, de tomar la iniciativa. Es más adecuado ver estos sistemas como oráculos, capaces de responder a preguntas del tipo “qué crees que pasaría si…”, “que propondrías en caso de…”, más que como agentes activos o controladores.


Los posibles problemas y peligros de este tipo de inteligencias, basadas en grandes redes neuronales, han sido analizados en la literatura científica. Un problema fundamental es el de la falta de transparencia (“explicabilidad”) de las decisiones que toman. En general actúan como “cajas negras” sin que podamos saber qué razonamiento han llevado a cabo para llegar a una conclusión.


Y no olvidemos que detrás de la máquina están los humanos, que han podido introducir ciertos sesgos (consciente o inconscientemente) en la IA a través de los textos que han usado para entrenarla. Por otro lado, la IA no está libre de dar datos o consejos erróneos, como muchos usuarios de ChatGPT han podido experimentar.


Los avances tecnológicos permiten vislumbrar una futura IA capaz de “gobernarnos”, por el momento no sin el imprescindible control humano. El debate debería moverse pronto del plano técnico al plano ético y social.


Jorge Gracia del Río, Los algoritmos elegirán al próximo presidente del gobierno, El País 19/01/2023

https://elpais.com/tecnologia/2023-01-19/los-algoritmos-que-elegiran-al-proximo-presidente-del-gobierno.html?ssm=FB_CC&fbclid=IwAR0_QlBU3zzHS0d71VyeuFfrcDfptu1YbleTRuiG7Mi9C8JzSltaPKm1rUk

Comentaris

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Gonçal, un cafè sisplau

"¡¡¡Tilonorrinco!!! ¡¡¡Espiditrompa!!!"