Els quatre problemes de la IA

Gary Marcus

Tal vez mi nombre, Gary Marcus, te suene como el de esa persona que se atrevió a desafiar al director general de OpenAI, Sam Altman, cuando testificamos juntos ante el Senado de Estados Unidos; los dos tomamos juramento el 16 de mayo de 2023 y prometimos decir la verdad. Mi objetivo aquí es contar la verdad acerca de la manera en que las grandes empresas tecnológicas nos están explotando cada vez más. Y explicar cómo es que la IA está poniendo en riesgo casi todo lo que apreciamos, desde la privacidad hasta la democracia y nuestra propia seguridad, a corto, medio y largo plazo. Por último, también me gustaría ofrecer mis mejores cavilaciones sobre loque podemos hacer al respecto.

En esencia, veo cuatro problemas

1) La forma concreta de tecnología de inteligencia artificial en la que todo el mundo se centra en estos momentos, la IA generativa, es absolutamente defectuosa. Sus sistemas han demostrado una y otra vez ser del todo impasibles a la diferencia entre verdades y bulos (lo que en inglés denominan bullshit).* Los modelos generativos, aprovechando una frase del ámbito militar, «se equivocan a  menudo y nunca dudan». Uno puede confiar en que el ordenador  de las naves de Star Trek dé respuestas sensatas a preguntas razonables;  la IA generativa, en cambio, es impredecible. Y lo que es peor, a menudo es lo bastante acertada como para hacernos caer en la complacencia: aunque siempre se cuelen errores; casi nadie la  trata con la desconfianza que merecería. Algo que tuviera la fiabilidad de los ordenadores de Star Trek podría cambiar el mundo; sin embargo, lo que tenemos ahora es un caos, atractivo pero poco fiable. Y muy poca gente está dispuesta a admitir esta incómoda verdad.

2) Las empresas que en estos momentos están desarrollando IA se llenan la boca con declaraciones de una «IA responsable», pero sus palabras no se corresponden con sus acciones. En realidad, la IA que están construyendo no es lo bastante responsable; y si no se controla a estas empresas, es poco probable que lo sea algún día.

3) Al mismo tiempo, la IA generativa está sobrevaloradísima en relación con las realidades de lo que ofrece o puede ofrecer. Las empresas que desarrollan IA siguen pidiendo permisos y aquiescencias (como exenciones de la Ley sobre el Derecho de Autor) con el argumento de que algún día, de alguna manera, salvarán a la sociedad, a pesar de que hasta la fecha sus contribuciones tangibles han sido limitadas. Con demasiada frecuencia, los medios de comunicación se tragan el mito del mesías de Silicon Valley; los empresarios exageran porque así es más fácil recabar dinero y casi nadie rinde cuentas por promesas incumplidas. Como ocurre con las criptomonedas, las vagas promesas de beneficios futuros, que tal vez nunca se cumplan, no deberían despistar a los ciudadanos y a los políticos de la realidad de los perjuicios actuales.

4) Nos encaminamos hacia una especie de oligarquía de la IA con demasiado poder, en un eco aterrador de lo que ha sucedido con las redes sociales. En Estados Unidos (y en muchos otros lugares, con la notable excepción de Europa), las grandes empresas tecnológicas son las que tienen la sartén por el mango, mientras que los gobiernos han hecho muy poca cosa para refrenarlas. La gran mayoría de los estadounidenses quiere una regulación seria de la IA mientras cae la confianza en ella, pero hasta el momento el Congreso de Estados Unidos no ha estado a la altura de las circunstancias.

Gary Marcus, Frenar a Silicon Valley, Barcelona, Shacleton-books 2025