El risc de la Intel·ligència Artificial
No es tarea fácil definir “inteligencia artificial”, por la sencilla razón de que no lo es definir “inteligencia”. Nos conformaremos, por tanto, con considerar que inteligencia artificial es aquel artefacto -material o virtual- que despliega capacidades y destrezas tales que sería considerado inteligente si las desplegara una persona. Ahora bien, si pensamos que la inteligencia artificial podría llegar a sustituir a Dios en nuestras mentes, su capacidad debería ser muy superior a la humana. Y sería bajo ese supuesto que podría convertirse en una amenaza para la humanidad. La amenaza sería mayor, incluso, si se desalinease de los valores y prioridades de los seres humanos.
No hay acuerdo entre los expertos acerca de la probabilidad de que un riesgo tal pueda llegar a materializarse, pero hay figuras muy relevantes en ese campo que así lo creen. Aunque también es cierto que se trata de algo cuya eventualidad no se considera verosímil en unos pocos años, aunque sí en unas décadas. En otras palabras: queda mucho tiempo por delante para que tal cosa ocurra.
Según los especialistas, el riesgo empezaría a convertirse en una amenaza muy cierta en el momento en que se combinasen el llamado “aprendizaje profundo” con el aprendizaje por refuerzo -mediante recompensa o castigo-, lo que podría resultar de la utilización de lo que se denomina una “función de recompensa”.
Las posibilidades de que una Inteligencia Artificial llegase a representar un riesgo existencial aumentarían si la “función de recompensa” no incluyese valores ampliamente compartidos por los seres humanos, y si sus creadores los sustituyesen por valores acordes a sus propios intereses. Bajo esas condiciones, un sistema suficientemente inteligente podría resistirse a aceptar reformular en algún momento su función de recompensa, por lo que operaría de acuerdo con los intereses que hubiesen especificado sus creadores.
Por otro lado, para poder adquirir el control y desvincularse del que pudieren ejercer sobre él seres humanos, el sistema no necesitaría actuar en el mundo físico; le bastaría con hacerlo en el virtual, mediante textos, sonidos e imágenes. Y progresaría de modo similar a como lo ha hecho la capacidad humana, adquiriendo volúmenes crecientes de recursos. Estamos muy lejos -eso dicen- de una situación tal, pero no es tan difícil imaginar cómo operaría esa Inteligencia Artificial, si pensamos en los vídeos en los que se nos presenta la imagen de una persona conocida por todo el mundo haciendo afirmaciones absurdas, pero haciéndolas con su propia voz. O si pensamos en la facilidad con la que bulos e informaciones tendenciosas se expanden y reciben total credibilidad por parte de amplios sectores de población.
La Inteligencia Artificial no tendría por qué acabar físicamente con la humanidad, pero sí podría reducirla a un estado de postración tal que perdiera todas sus posibilidades de optar por diferentes futuros. Toby Ord atribuye a este riesgo una probabilidad de una entre diez de materializarse en los próximos cien años.
Juan Ignacio Pérez, El séptimo ángel, Cuaderno de Cultura Científica 26/12/2021
Comentaris