La actriz estadounidense Sharon Stone y decenas de premios Nobel reclamaron hoy que la decisión de utilizar armas nucleares «nunca sea confiada a un sistema automatizado» y llamaron a negociar un tratado internacional que prohíba la integración irresponsable de la inteligencia artificial (IA) en los sistemas de comando, control y lanzamiento del arsenal atómico.
El pedido quedó plasmado en la Declaración de Roma por una Paz Desarmada y Desarmante en la Era de la Inteligencia Artificial, las Armas Nucleares y Autónomas, los Nuevos Protocolos Digitales y los Modelos Emergentes de Desarrollo Digital, firmada en el Campidoglio como documento final de la Asamblea Global de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear.
Entre los firmantes estuvieron el alcalde de Roma, Roberto Gualtieri, y Sharon Stone, invitada especial del encuentro que durante los últimos tres días reunió a científicos, líderes religiosos y galardonados con el Nobel en el Borgo Laudato Si’, de Castel Gandolfo, antes de concluir en la sede del gobierno.
«Después de escuchar a mis colegas, llegué a algunos puntos esenciales: debemos unirnos por el bien común y el respeto del Estado de derecho.
La dignidad humana no es un algoritmo», afirmó la actriz durante su intervención, en referencia a los desafíos éticos que plantea el desarrollo de la inteligencia artificial.
El documento, inspirado en la encíclica Magnifica Humanitas de León XIV, sostiene que la decisión de emplear un arma nuclear «nunca debe ser confiada a un sistema automatizado» y exige preservar un control humano «efectivo y significativo» sobre cualquier decisión relacionada con el uso de armamento nuclear.
Los firmantes solicitaron además la adopción de un tratado internacional que prohíba el uso irresponsable de la IA en los sistemas nucleares y reclamaron impedir su utilización con fines maliciosos en operaciones cibernéticas o ataques contra infraestructuras nucleares críticas.
La declaración también insta a los Estados poseedores de armas nucleares a someter sus sistemas a revisiones de seguridad («fail-safe review») para reducir la vulnerabilidad frente a manipulaciones o controles no autorizados mediante inteligencia artificial.
En paralelo, el texto promueve el desarrollo responsable de la IA para mejorar el bienestar humano, acelerar el progreso científico y médico, proteger el medio ambiente, fortalecer la resiliencia de las sociedades y contribuir a la paz y al desarrollo sostenible.
En materia de gobernanza, la declaración invita a gobiernos, empresas y organizaciones internacionales a coordinar una desaceleración del desarrollo de las formas más avanzadas de inteligencia artificial mediante mecanismos compartidos de verificación y procesos de evaluación independientes, además de respaldar la creación del Panel Científico Internacional Independiente de las Naciones Unidas sobre IA.
Fundación Robert A. Paneque
