En un esfuerzo sin precedentes por salvaguardar el futuro de la humanidad, las Villas Pontificias de Castel Gandolfo y el emblemático Capitolio de Roma se convirtieron en los escenarios de la Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War (Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear).
El encuentro culminó con la firma de la “Declaración de Roma por una paz desarmada y desarmante”, un documento histórico respaldado por 30 galardonados con el Premio Nobel, líderes religiosos, exjefes de Estado y los principales desarrolladores de IA del mundo (incluyendo representantes de gigantes como OpenAI, Google DeepMind y Anthropic).
Inspirada en el llamado ético del Papa, esta iniciativa busca poner freno a una de las amenazas de seguridad más complejas de nuestra era: la automatización de la guerra y la falta de control humano en el desarrollo digital.
El peligro de una IA sin límites: El veto a la automatización nuclear
El documento, compuesto por seis puntos clave, aborda con urgencia la necesidad de desarmar los algoritmos antes de que estos definan el destino del próximo siglo. Entre las peticiones más urgentes de la Declaración destacan:
- Tratado Internacional de Prohibición: Se exige con firmeza un tratado global que impida de manera absoluta la integración irresponsable de la IA en los sistemas de comando, control y lanzamiento de armas nucleares.
- La regla de oro: El control humano: “La decisión final de emplear un arma nuclear jamás debe ser delegada a un sistema automatizado”, detalla el texto. El juicio y la responsabilidad del ser humano deben permanecer siempre al frente.
- Freno a la auto-mejora descontrolada: Se solicita que ningún gobierno u organización autorice procesos de auto-mejora recursiva completamente automatizados en sistemas de IA que no cuenten con herramientas efectivas de monitoreo y desconexión inmediata.
De Castel Gandolfo al Capitolio: Un diálogo por el bien común
Durante las sesiones celebradas en el Borgo Laudato Si’ —el centro de investigación y formación ecológica y social del Vaticano en Castel Gandolfo—, diversas voces de la Iglesia y la ciencia hicieron eco de la urgencia del momento.
Los participantes enfatizaron que el verdadero reto no reside en la tecnología misma, sino en la dirección que la humanidad decida imprimirle. Orientada éticamente, la Inteligencia Artificial representa un motor asombroso para el avance de la medicina, el cuidado ambiental y la educación. Sin embargo, abandonada a una lógica de poder y control militarizado, arriesga la dignidad y supervivencia humana.
La asamblea, que contó además con la participación de reconocidos expertos en desarme y figuras de la cultura global, aspira a que este documento no quede como una simple expresión de buenas intenciones, sino como el cimiento ético y legal para las futuras normativas globales sobre soberanía digital y seguridad internacional.