L'anihilació de la humanitat per part de la IA.





A la posibilidad de que la IA aniquile a la humanidad,  le doy un rango amplio, del 2% al 20%, porque depende de cómo definamos exactamente aniquilación. Una definición extrema sería que literalmente todos los humanos fueran exterminados. Pero una más suave sería que los humanos quedáramos despojados de poder, reducidos a simples piezas figurativas de un sistema. Esta última probabilidad es alta. Deberíamos tratar la IA como un potencial problema catastrófico similar al cambio climático o la guerra nuclear. En el equilibrio delicado entre ataque, defensa y poder estatal, la IA alterará significativamente el statu quo. Por ejemplo, podrían surgir estados totalitarios capaces de vigilar a sus ciudadanos con mucha mayor eficacia. Y quizás en respuesta algunos países europeos más escépticos decidan proclamarse zonas libres de IA.

Daniel Arjona y Joshua Ford, entrevista a Nate Silver: "Trump es conocido por ser notoriamente desleal ...", elmundo.es 03/04/2025

Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

Gonçal, un cafè sisplau

Imatge
Hem arribat al final del curs. Sé que hi ha molts que esperen ansiosos conèixer el desenllaç d´aquest culebrot que es va iniciar fa dues setmanes. Com va prometre el Gonçal, avui ens ha convidat a cafè, bé, una mena de simulacre de cafè Nespresso , tot i que acceptable. No importa, en el món en què vivim tot és simulacre. Fins i tot el Gonçal es creu un simulacre del George Cloney (profund, sensual, equilibrat, únic, podria ser sud-americà), pobret. L´aula sorprenentment estava plena. Això, us ho puc assegurar, no era un simulacre. Dic sorprenentment perquè tothom ja tenia arxivat al calaix de casa seva el certificat d´assistència. El que fan les persones per un cafè, xiuxiuava una veu amb maledicència. No home, no. Aquest fet demostra que aquest curs ha estat un èxit, la presència de tanta gent s´ha d´interpretar com un homenatge al responsable del curs, respon amb aire greu una altra veu, mentre la majoria dels que hi érem hem assentit en silenci. Avui l´estrella és el Gonçal!!!., c...
Més informació

Contra el disseny intel.ligent

Imatge
Hay gente que piensa que la idea del diseño inteligente, el nuevo creacionismo, es buena y no se da cuenta de sus implicaciones nefastas. Hay que distinguir siempre entre la gente de buena fe, que cree que el diseño inteligente demuestra que Dios existe porque estamos bien diseñados, y los líderes científicos o religiosos, que sí entienden las consecuencias... Y es una barbaridad porque implica una blasfemia. Las mujeres tienen el conducto natal muy estrecho para el paso de la cabeza del niño como consecuencia del agrandamiento evolutivo de nuestro cerebro, de modo que miles de bebés y madres mueren durante el parto; y todos los años hay millones de abortos espontáneos. Si admitimos el DI (yo le llamo diseño imperfecto), Dios sería el mayor abortista del mundo. ENTREVISTA Francisco J.Ayala "Con la teoría del diseño inteligente, Dios sería el mayor abortista" MALÉN AZNÁREZ 21/06/2009, EL País.
Més informació