GPT-4 és una caixa negra.

Es necesario que los data sets sean un reflejo del mundo en el que quiere operar la IA. La justicia, a los sesgos. Un sistema judicial injusto o una cultura de empresa machista producen bases de datos que reflejan esos valores. Si entrenamos una IA con sus ejemplos, estaremos automatizando ese patrón. Finalmente, la transparencia es la única garantía de que los dos primeros puntos han sido abordados por la empresa que desarrolla el modelo, y que se ha invertido el tiempo y el esfuerzo necesario en que sea seguro para usuarios, sistemas y empresas, antes de empezar a mediar en todos los aspectos de nuestra vida.

GPT-4 es una caja negra. En una industria que aspira a ser cada vez más indistinguible de la magia, es más importante que nunca señalar la distancia entre lo que dicen los presuntos visionarios y lo que realmente hacen. En este caso, fundar un laboratorio de investigación con la intención expresa de garantizar un desarrollo transparente de una tecnología de enorme potencial transformador y hacer exactamente lo opuesto.

Marta Peirano, GPT-4 está alineado, pero con qué, El País 20/03/2023