GPT-4 és una caixa negra.


Es necesario que los data sets sean un reflejo del mundo en el que quiere operar la IA. La justicia, a los sesgos. Un sistema judicial injusto o una cultura de empresa machista producen bases de datos que reflejan esos valores. Si entrenamos una IA con sus ejemplos, estaremos automatizando ese patrón. Finalmente, la transparencia es la única garantía de que los dos primeros puntos han sido abordados por la empresa que desarrolla el modelo, y que se ha invertido el tiempo y el esfuerzo necesario en que sea seguro para usuarios, sistemas y empresas, antes de empezar a mediar en todos los aspectos de nuestra vida.

GPT-4 es una caja negra. En una industria que aspira a ser cada vez más indistinguible de la magia, es más importante que nunca señalar la distancia entre lo que dicen los presuntos visionarios y lo que realmente hacen. En este caso, fundar un laboratorio de investigación con la intención expresa de garantizar un desarrollo transparente de una tecnología de enorme potencial transformador y hacer exactamente lo opuesto.

Marta Peirano, GPT-4 está alineado, pero con qué, El País 20/03/2023

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

Gonçal, un cafè sisplau

Imatge
Hem arribat al final del curs. Sé que hi ha molts que esperen ansiosos conèixer el desenllaç d´aquest culebrot que es va iniciar fa dues setmanes. Com va prometre el Gonçal, avui ens ha convidat a cafè, bé, una mena de simulacre de cafè Nespresso , tot i que acceptable. No importa, en el món en què vivim tot és simulacre. Fins i tot el Gonçal es creu un simulacre del George Cloney (profund, sensual, equilibrat, únic, podria ser sud-americà), pobret. L´aula sorprenentment estava plena. Això, us ho puc assegurar, no era un simulacre. Dic sorprenentment perquè tothom ja tenia arxivat al calaix de casa seva el certificat d´assistència. El que fan les persones per un cafè, xiuxiuava una veu amb maledicència. No home, no. Aquest fet demostra que aquest curs ha estat un èxit, la presència de tanta gent s´ha d´interpretar com un homenatge al responsable del curs, respon amb aire greu una altra veu, mentre la majoria dels que hi érem hem assentit en silenci. Avui l´estrella és el Gonçal!!!., c
Més informació

Què és el conatus de Spinoza?

Imatge
CONATUS (1) Spinoza concluye así el Prefacio de la tercera parte de la Ética : “Trataré, pues, de la naturaleza y las fuerzas de los afectos y del poder de la mente sobre ellos con el mismo método con que he tratado anteriormente de Dios y de la mente, y consideraré las acciones humanas y los apetitos como si se tratara de líneas, planos o cuerpos”. Esta declaración marca el giro hacia el proyecto de comprender los afectos o pasiones como partes necesarias de la naturaleza y explicarlos por sus efectos en lugar de juzgarlos con prejuicios morales o teológicos. En este marco teórico, la idea de “conatus”, el esfuerzo de perseverar en el propio ser (E3p6), esto es, el deseo que sigue al orden de la naturaleza, se convertirá en la piedra angular de la teoría de los afectos de Spinoza . ¿Cómo funciona el concepto 'conatus' en la Ética ? El 'conatus' no es algo peculiar del ser humano, ni siquiera de los seres animados; no es instinto ni movimiento voluntario.
Més informació