El veritable perill de la IA.
...más allá de los titulares escandalosos, queda claro que el verdadero peligro no es cuán inteligente es la inteligencia artificial, sino lo tonta que puede llegar a ser y lo mucho que nos engañamos respecto a su supuesta inteligencia.
Se ha dicho que el algoritmo de TikTok lee tu mente. Pero no lee tu mente, lee tus datos. TikTok encuentra usuarios con historiales de visualización similares a los tuyos y selecciona para ti videos que ellos han visto o con los que han interactuado. Es impresionante, pero es pura estadística. Del mismo modo, los sistemas de inteligencia artificial utilizados por Facebook, Instagram y Twitter no saben qué información es verdadera, qué publicaciones son buenas para tu salud mental o qué contenido ayuda a que florezca la democracia: todo lo que saben es lo que tú y otros como tú han hecho en la plataforma en el pasado, y usan estos datos para predecir lo que probablemente pasará en el futuro.
No te preocupes por los robots superinteligentes que intentan esclavizarnos; preocúpate por la inteligencia artificial ignorante y venal diseñada para exprimirnos hasta el último centavo de ingresos por publicidad en línea.
Y preocúpate también por las agencias policiales que piensan erróneamente que los robots con inteligencia artificial pueden anticipar crímenes antes de que ocurran, cuando en realidad lo único que hacen es perpetuar estereotipos dañinos sobre las minorías.
La realidad es que ninguna inteligencia artificial podría hacernos daño a menos que le brindemos explícitamente la oportunidad de hacerlo. Sin embargo, parecemos empeñados en poner a inteligencias artificiales no calificadas en posiciones de poder y de toma de decisiones en las que podrían hacer exactamente eso.
Parte del por qué atribuimos a la inteligencia artificial mucha más inteligencia y autonomía de la que merece es porque su funcionamiento interno es en gran medida inescrutable. Implica muchas matemáticas, código informático y miles de millones de parámetros. Su complejidad nos ciega, y nuestra imaginación llena esos vacíos que no vemos con más de lo que realmente existe.
Noah Giansiracusa, La verdadera amenaza de la inteligencia artificial no es la superinteligencia: e la candidez, Letras Libres 21/10/2022
Comentaris