El perill de la IA i com regular el seu desenvolupament.




Una IA necesita espacio, mantenimiento, refrigeración y electricidad. Con este nivel de autonomía, de momento es improbable que nos sorprenda con una emboscada, o que prospere inadvertida como un virus pandémico en las favelas de Manaus o una colonia de moho en los conductos respiratorios de un hospital. Y, sin embargo, ese es el peligro que debe preocuparnos a la hora de legislar su desarrollo, al menos según el director ejecutivo de OpenAI. Sam Altman explicó el pasado martes al subcomité sobre Privacidad, Tecnología y Legislación del Senado estadounidense que su empresa planea construir y liberar sistemas cada vez más peligrosos y que necesita su ayuda para garantizar que la transición a la superinteligencia sucede sin poner a la humanidad en peligro. Propone que se regule la IA para prevenir un problema que de momento solo existe en la literatura y el cine: la Singularidad.

Marta Peirano, El peligro no es la inteligencia artificial, es OpenAI, El País 19/05/2023


Comentaris

Publica un comentari a l'entrada

Entrades populars d'aquest blog

Percepció i selecció natural 2.

Imatge
... si la representació que es fa un mico de la branca sobre la que vol saltar res no tingués a veure amb la realitat, deixaria d´haver micos. I si el mateix ens passés a nosaltres, ja no estaríem aquí per parlar-ne. Percebre alguns aspectes de la realitat és una exigència biològica. Alguns aspectes només, ja que és evident que la nostra percepció del món exterior sofreix un filtrat massiu. François Jacob , El juego de lo posible , Grijalbo. Mondadori, Barna 1982
Més informació

Gonçal, un cafè sisplau

Imatge
Hem arribat al final del curs. Sé que hi ha molts que esperen ansiosos conèixer el desenllaç d´aquest culebrot que es va iniciar fa dues setmanes. Com va prometre el Gonçal, avui ens ha convidat a cafè, bé, una mena de simulacre de cafè Nespresso , tot i que acceptable. No importa, en el món en què vivim tot és simulacre. Fins i tot el Gonçal es creu un simulacre del George Cloney (profund, sensual, equilibrat, únic, podria ser sud-americà), pobret. L´aula sorprenentment estava plena. Això, us ho puc assegurar, no era un simulacre. Dic sorprenentment perquè tothom ja tenia arxivat al calaix de casa seva el certificat d´assistència. El que fan les persones per un cafè, xiuxiuava una veu amb maledicència. No home, no. Aquest fet demostra que aquest curs ha estat un èxit, la presència de tanta gent s´ha d´interpretar com un homenatge al responsable del curs, respon amb aire greu una altra veu, mentre la majoria dels que hi érem hem assentit en silenci. Avui l´estrella és el Gonçal!!!., c
Més informació

Darwin i el seu descobriment de la teoria de l'evolució.

Imatge
Me impresionó tanto la distribución de los organismos de las Galápagos […] y […] el carácter de los mamíferos fósiles de América […], que decidí reunir a ciegas toda suerte de hechos que pudieran tener que ver de alguna forma con lo que son las especies. He leído montones de libros de agricultura y horticultura, y no he parado de recoger datos. Por fin han surgido destellos de luz, y estoy casi convencido (totalmente en contra de la opinión con la que empecé) de que las especies no son (es como confesar un crimen) inmutables. El Cielo me libre del disparate de   Lamarck   de ‘una tendencia al progreso’, ‘adaptaciones debidas a la paulatina inclinación de los animales’, etc…, pero las conclusiones a las que he llegado no son muy diferentes de las suyas, aunque sí lo son por completo los instrumentos del cambio. Creo que he descubierto (¡esto es presunción!) la simple forma por medio de la cual las especies devienen exquisitamente a adaptarse a varios fines”. C arta de Darwin a Joseph Da
Més informació