Huge: Casi todos los miembros del Consejo de Seguridad de la ONU están a favor de la regulación de la IA o del establecimiento de líneas rojas. Nunca antes se había discutido tan abiertamente y a un nivel diplomático tan alto el principio de las líneas rojas para la IA. El Secretario General de la ONU, Antonio Guterres, abrió la sesión con un firme llamado a la acción para las líneas rojas: • "Una prohibición de los sistemas de armas autónomas letales que operan sin control humano, con [...] un instrumento jurídicamente vinculante para el próximo año" • "la necesidad de garantizar que la IA nunca reduzca las barreras para adquirir o desplegar armas prohibidas" Luego, Yoshua Bengio tomó la palabra y destacó nuestro Llamado Global para las Líneas Rojas de la IA, ahora respaldado por 11 premios Nobel y 9 ex jefes de estado y ministros. Casi todos los países fueron favorables a algunas líneas rojas: China: "Es esencial garantizar que la IA permanezca bajo control humano y evitar la aparición de armas autónomas letales que operen sin intervención humana". Francia: "Estamos totalmente de acuerdo con el Secretario General, es decir, que ninguna decisión de vida o muerte debe transferirse a un sistema de armas autónomo que funcione sin ningún control humano". Si bien Estados Unidos rechazó la idea de una "gobernanza global centralizada" para la IA, esto no equivale a rechazar todas las normas internacionales. El presidente Trump declaró en la Asamblea General de la ONU que su administración sería pionera en "un sistema de verificación de IA en el que todos puedan confiar" para hacer cumplir la Convención sobre Armas Biológicas, diciendo que "con suerte, la ONU puede desempeñar un papel constructivo".

El Vaticano también está pidiendo líneas rojas. Una semana antes del anuncio del Llamamiento Mundial para las Líneas Rojas de la IA en la Asamblea General de la ONU, un grupo de expertos comisionados por el Vaticano lanzó otro llamamiento en Roma: "Fraternidad en la era de la IA". Esta carta pública está dirigida directamente al Papa y a los líderes mundiales. Los autores, varios de los cuales también se encuentran entre los firmantes del Llamamiento Global, afirman su apoyo a las siguientes líneas rojas: "El desarrollo de la superinteligencia [...] no debe permitirse hasta que exista un amplio consenso científico de que se hará de manera segura y controlada, y haya un consentimiento público claro y amplio" "Nunca se debe permitir que los sistemas de IA tomen decisiones de vida o muerte, especialmente en aplicaciones militares". "Los gobiernos, las corporaciones y cualquier otra persona no deben convertir la IA en un arma para ningún tipo de dominación, guerras ilegales de agresión, coerción, manipulación, puntuación social o vigilancia masiva injustificada". Los firmantes también piden "un tratado internacional vinculante que establezca líneas rojas y una institución de supervisión independiente con poderes de ejecución". El coordinador científico de esta carta es Paolo Benanti, el asesor directo del Papa para la IA, por lo que esto es muy importante.

El tiempo de la autorregulación de la IA ha terminado. 200 premios Nobel, ex jefes de estado y expertos de la industria acaban de firmar una declaración: "Pedimos urgentemente líneas rojas internacionales para evitar riesgos inaceptables de IA" El llamamiento fue presentado hoy en la Asamblea General de la ONU por Maria Ressa, Premio Nobel de la Paz: