Quan Stanislav Petrov desafià els protocols.

Hacía frío aquella madrugada de septiembre de 1983. Un oficial de la Unión Soviética estaba de guardia en un búnker, cerca de Moscú, supervisando el centro de mando de los satélites de alerta temprana que los rusos habían montado para anticiparse a cualquier movimiento de la OTAN. De pronto, un radar nuclear informó del lanzamiento de un misil balístico intercontinental lanzado desde una base en Estados Unidos. El protocolo militar era claro: trasmitir inmediatamente la advertencia a la cadena de mando que habría ordenado un contraataque nuclear inmediato contra los Estados Unidos, dentro de la doctrina de la destrucción mutua asegurada. Sin embargo, Stanislav Petrov sospechó que se trataba de una falsa alarma, intuyendo que una guerra nuclear no se desencadenaría con un solo misil. Decidió esperar a que se corroborase la evidencia, y de pronto los sistemas indicaron que otros cuatro misiles habían sido lanzados desde otras bases. A pesar de ello, mantuvo el pulso ante un evento singular al que nadie se había enfrentado antes. El impacto nunca llegó.

Había evitado una guerra nuclear desobedeciendo a uno de los mejores sistemas tecnológicos de su tiempo. La investigación posterior confirmó que el sistema había emitido un falso positivo por una rara alineación del sol sobre las nubes de gran altitud y las órbitas de los satélites que malinterpretaron su radiación como la de misiles en aproximación. A pesar de reconocerse su prudencia, se le afeó el desacato al protocolo de informes y acabó degradado, siendo sólo reconocido por diversas instituciones pocos años antes de su muerte. Petrov restó siempre importancia a su reacción, simplemente hizo su trabajo aplicando simple sentido común: “La gente no empieza una guerra nuclear con solo cinco misiles”.Su decisión, una desviación del procedimiento estándar y una negación de la recomendación automatizada, evitó una catástrofe nuclear. La inteligencia humana daba, en este caso como en otros, un ejemplo de cómo su poder no reside tanto en su capacidad para analizar patrones como en reconocer cuándo romperlos. La gestión de este caso atípico que conducía literalmente al fin del mundo tal como lo conocemos sirve de referencia al desarrollo de la tecnología, a la que aún falta mucho para alcanzar el conocimiento intuitivo, de sentido común y de razonamiento abductivo, tal y como lo describiera Peirce, frente a lo desconocido que caracteriza a los humanos.

De hecho, algunas de las teorías actuales acerca de la consciencia, que tanto se le resiste a la IA y que es posible que nunca alcance, tienen que ver precisamente con la importancia de gestionar los casos atípicos: si nuestra capacidad de predicción fuera completa, entonces ni siquiera tendríamos que molestarnos en ser conscientes. Sin embargo, las estructura neuronal que parece soportar la consciencia se activa siempre un poco a posteriori, con un pequeño decalaje, cuando parece necesitarse para maximizar la atención y procesar señales nuevas o biológicamente importantes. Así, la consciencia podría ser, en efecto, un rasgo adaptativo crucial y no un efecto colateral.

Javier Jurado, La IA y el pavo de Russell, Ingeniero de letras, 02/04/2024