Error humà vs error IA





La IA ha tenido bastante éxito en imitar nuestra aparente racionalidad, pero aún no logra copiar lo que mejor sabemos hacer: equivocarnos. Un estudio publicado a fines de junio por investigadores del Instituto de Tecnología de Massacusetts y las universidades de Harvard y de Chicago, propone llamar a ese tipo de fallos, “comprensión Potemkin”, en alusión al mito ruso (nunca confirmado) sobre una aldea falsa que el político Gregorio Potemkin habría montado para contentar a la emperatriz Catalina la Grande, en el siglo XVIII. 

“Si bien teóricamente existen muchas maneras en que los humanos podrían malinterpretar un concepto, en la práctica solo un número limitado de ellos ocurre. Esto se debe a que las personas lo malinterpretan de forma estructurada”, sostiene el artículo. El error humano sigue patrones, aunque sea consecuencia de un equívoco. Esa lógica del desacierto permite que si se corrige el malentendido original, pueda reencausarse el razonamiento. En los grandes modelos de Lenguaje de Inteligencia Artificial el desatino no tiene límites. Se equivocan de maneras diferentes cada vez, produciendo alucinaciones impredecibles y, por lo tanto, muy difíciles de corregir. Porque, además, muy rara vez contestan ‘no sé’; prefieren darnos una mala respuesta a no dar ninguna. Venden humo.

María Victoria Ennis, Comprensión Potemkin ..., El País 28/08/2025


Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

El derecho a mentir

Imatge
Se lamentaba Mark Twain : "El embustero ignorante e inhábil no tiene armas para luchar contra el embustero instruido y experto. ¿Cómo puedo yo bajar a la arena y medir mis armas con las de un abogado?" Reconocía el escritor americano que, incluso dispuesto a mentir, su mentira podía resultar inútil frente a mentiras mejor manejadas. La mentira es más perfecta, más mentira. cuanto más parece verdad. ¿Qué puede hacer, pues, el hombre común ante las mentiras de los políticos en campaña electoral? ¿Qué, ante las mentiras de la Prensa, la escrita, la hablada, la audiovisual? ¿Nada? ¿No puede hacer nada? Sí, puede hacer algo: mentir. Y lo hace. Lo viene haciendo desde que era pequeño. Aprendió a mentir a sus padres -que ya sabían mentir a sus hijos-, a los maestros, a los amigos. Y ese aprendizaje le fue muy útil para seguir mintiendo de mayor. Para mentir a su novia, a su mujer, a su amante, a sus hijos, a sus jefes, a los guardias, a los abogados, a los médicos, a los confeso...
Més informació

Què faria Martha Nussbaum davant una plaga de porcs senglars?

Imatge
Què faria Martha Nussbaum davant una plaga de porcs senglars? L’enfocament de les capacitats i la nostra relació amb els animals. Martha Nussbaum es fa la pregunta següent: Poden els animals, igual que els humans, patir injustícies? Es pot dir en altres paraules: els animals, igual que els humans, poden tenir drets? Aquesta qüestió està relacionada amb la capacitat nº 8. Està desenvolupada en el seu llibre Crear Capacitats , en les pàgines 186-192 de l’edició en castellà (Barcelona, editorial Paidós 2012). Segons Nussbaum, l’enfocament de les capacitats és adequat per tractar la qüestió dels mals soferts pels animals a mans dels humans. És, pel que sembla, una situació en la qual existeix un desequilibri clar entre un agressor i una víctima. Abans de respondre a aquesta pregunta caldria saber què són els drets. Tenir un dret no és el mateix que ser ros o parlar anglès. Aquests dos exemples fan referència a fets que podrien ser reals. Tenir dret a la vivenda o dret al treball no són r...
Més informació