L'impossible control de la IA.



El asunto ya no es si la IA puede llegar a ser consciente o si tiene experiencias o deseos. Es decir, si la inteligencia es sólo información, o también experiencia y deseo. Estamos ante otro tipo de problema: las graves consecuencias de depositar nuestra inteligencia en estas máquinas de pensar. El individuo, si ha alcanzado un cierto grado de sabiduría y madurez, es capaz de controlar sus deseos, de armonizarlos con el entorno. ¿Serán estas máquinas capaces de hacerlo? Es un hecho que la competencia entre países y grandes compañías es hoy día frenética. Muchas de las personas más inteligentes e intuitivas del planeta están seriamente preocupadas. Hinton sugiere poner todos los esfuerzos en que la IA sea segura. Es pedir peras al olmo. Una bomba o un virus modificado son artefactos explosivos. Han nacido para su diseminación. La amenaza de estos engendros es su naturaleza expansiva. Lo mismo puede decirse de la inteligencia mecánica. El Sol contiene su explosividad con la gravedad, que es una de las formas de la seriedad. Los astrofísicos saben que llegará un día en que ya no pueda hacerlo. Entonces acabará la vida en la Tierra (si no la hemos acabado nosotros antes). Ese compromiso de las estrellas con las formas de vida es el que ahora hemos de reclamar a las grandes corporaciones (más poderosas que los Estados). En sus manos hemos depositado el destino de la civilización. La IA, ese híbrido naturaleza-cultura (Latour), puede acabar con la naturaleza y con la cultura. Lo que hemos querido ser, con lo que somos. Prometeo encadenado. Nada nuevo bajo el sol.

Juan Arnau, Máquinas de penar, máquinas de matar: ¿Es inteligente fabricar artefactos más inteligentes que nosotros?, El País 22/05/2023


Comentaris

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Gonçal, un cafè sisplau

"¡¡¡Tilonorrinco!!! ¡¡¡Espiditrompa!!!"