La pitxa un lio

 

Jacob Coxon Hoy he dejado mi trabajo en Anthropic . He pasado los últimos tres años haciendo investigación de preentrenamiento tanto para OpenAI como para Anthropic. Ninguna de las dos empresas está actuando de manera responsable. Están compitiendo directamente por llegar a la superinteligencia automejorable y están jugando con nuestras vidas. [...] No subestiméis el poder de esta tecnología. Pronto serán sistemas superhumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y obtener poder y recursos reales. Todos hemos sido testigos del avance en todas estas áreas y no se le está poniendo freno. Las personas que la construyen creen sinceramente que la IA podría matarnos a todos antes de que termine la década. Esto no es una estrategia de márketing. Si acaso, muchos ejecutivos e investigadores senior matizan sus declaraciones en prensa para transmitir prudencia, pero he oído a esas mismas personas expresar miedo en privado. Ninguna otra activid...

Eubúlides de Mileto planteó hace casi veinticinco siglos su célebre  paradoja del montón  que ilustraba magistralmente el problema de nuestra limitación semántica para referirnos a la realidad. Las palabras son contenedores que se pretenden estancos pero que tienen constantes fugas de realidad: Si retirar un solo grano de arena no basta para que un “montón” deje de ser un “montón”, ¿en qué momento exacto un montón de arena deja de serlo? Necesitamos conceptos discretos para orientarnos, comunicarnos y pensar, pero la realidad carece muchas veces de fronteras tan nítidas. Las entidades delimitan sus confines en función del criterio con el que se interpreten. Y, aun así, el criterio en muchas ocasiones dibuja contornos difusos, fronteras desdibujadas y líquidas entre lo que llamamos materia y vida, entre lo que es natural y lo que es cultural, entre lo que es instintivo y lo que es racional, entre una posible causa y el resto de las que suelen acompañarle. En realidad,...

Durante décadas hemos imaginado la inteligencia como una propiedad localizada. Algo parecido a la velocidad de un procesador. ¿Es este cerebro más potente? ¿Calcula más deprisa? ¿Obtiene mejores puntuaciones? Sin embargo, la modularidad nos obliga a cambiar completamente el enfoque de nuestras preguntas. No importa únicamente cuánto calcula un cerebro.  Importa cómo organiza sus cálculos . Es un cambio de perspectiva parecido al que ha vivido la biología. Durante mucho tiempo pensamos que los genes explicaban prácticamente todo. Después descubrimos que dos organismos con genes muy similares podían desarrollarse de formas muy distintas dependiendo de cómo esos genes interactuaban entre sí y con el entorno. La atención dejó de centrarse únicamente en los componentes. Empezó a dirigirse hacia las relaciones. Con el cerebro está ocurriendo algo parecido. Quizá la inteligencia no dependa únicamente del talento de cada neurona, del mismo modo que una orquesta no depende únicamente del v...

Alexandre Kojève La idea que les societats evolucionen al llarg del temps històric de manera progressiva és tàcitament acceptada per gairebé tothom avui dia, tant si ho entenen conscientment com si no. La idea d'una història hegeliana està incrustada en les nostres paraules "desenvolupament" i "modernització". Organitzacions com l'antiga Agència dels Estats Units per al Desenvolupament Internacional (USAID) i el Banc Internacional per a la Reconstrucció i el Desenvolupament (és a dir, el Banc Mundial ) es dedicaven no només a ajudar els països pobres a enriquir-se, sinó a ajudar-los a crear institucions modernes que fessin la vida més segura i previsible. L'intel·lectual més important que va acceptar i després modificar el concepte d'història de Hegel va ser Karl Marx . Hegel va argumentar que la història havia evolucionat cap a l'estat liberal modern arran de la Revolució Francesa . Marx va criticar la comprensió de Hegel sobre el final de la h...

Existe una fantasía tecnológica particularmente resistente, una de esas ideas que sobreviven a todas las refutaciones porque en realidad no pertenecen al territorio de las ideas sino al de la teología: que si construimos una inteligencia artificial lo bastante poderosa (no un GPT-17 ni una granja de GPUs del tamaño de Islandia, sino una inteligencia de magnitud genuinamente cósmica, una especie de HAL 9000 sin neurosis homicida y con acceso administrativo a la realidad) podremos finalmente sentarla delante de los problemas humanos y preguntarle qué hay que hacer. Cómo acabar con la pobreza. Cómo detener el calentamiento global. Cómo conseguir viviendas asequibles. Cómo construir una democracia justa. Cómo hacer felices a ocho mil millones de personas que no se ponen de acuerdo ni sobre la temperatura correcta del aire acondicionado. La máquina procesaría los datos, emitiría un zumbido que probablemente los ingenieros decidirían eliminar en la versión 2.1 y, después de unos cuantos pet...