Enorme: Casi todos los miembros del Consejo de Seguridad de la ONU están a favor de la regulación de la IA o de establecer líneas rojas. Nunca antes se había discutido tan abiertamente el principio de líneas rojas para la IA y a un nivel diplomático tan alto. El Secretario General de la ONU, Antonio Guterres, abrió la sesión con un firme llamado a la acción para establecer líneas rojas: • “una prohibición de los sistemas de armas autónomas letales que operen sin control humano, con [...] un instrumento jurídicamente vinculante para el próximo año” • “la necesidad de garantizar que la IA nunca reduzca las barreras para adquirir o desplegar armas prohibidas” Luego, Yoshua Bengio tomó la palabra y destacó nuestro Llamado Global por Líneas Rojas en IA, ahora respaldado por 11 laureados con el Premio Nobel y 9 ex jefes de estado y ministros. Casi todos los países estaban a favor de algunas líneas rojas: China: “Es esencial garantizar que la IA permanezca bajo control humano y prevenir la aparición de armas autónomas letales que operen sin intervención humana.” Francia: “Estamos completamente de acuerdo con el Secretario General, a saber, que ninguna decisión de vida o muerte debería ser transferida a un sistema de armas autónomas que opere sin ningún control humano.” Mientras que EE. UU. rechazó la idea de “gobernanza global centralizada” para la IA, esto no equivalió a rechazar todas las normas internacionales. El presidente Trump declaró en la UNGA que su administración sería pionera en “un sistema de verificación de IA en el que todos puedan confiar” para hacer cumplir la Convención sobre Armas Biológicas, diciendo “esperemos que la ONU pueda desempeñar un papel constructivo.”

El Vaticano también está pidiendo líneas rojas. Una semana antes del anuncio del Llamado Global para Líneas Rojas de IA en la Asamblea General de la ONU, se lanzó otro llamado en Roma por un grupo de expertos comisionados por el Vaticano: "Fraternidad en la Era de la IA." Esta carta pública está dirigida directamente al Papa y a los líderes mundiales. Los autores, varios de los cuales también están entre los firmantes del Llamado Global, afirman su apoyo a las siguientes líneas rojas: "El desarrollo de la superinteligencia […] no debería permitirse hasta que haya un amplio consenso científico de que se hará de manera segura y controlable, y haya un claro y amplio consentimiento público." "Los sistemas de IA nunca deben ser autorizados a tomar decisiones de vida o muerte, especialmente en aplicaciones militares." "Los gobiernos, las corporaciones y cualquier otra persona no deberían utilizar la IA como arma para ningún tipo de dominación, guerras de agresión ilegales, coerción, manipulación, puntuación social o vigilancia masiva injustificada." Los firmantes también piden un "tratado internacional vinculante que establezca líneas rojas y una institución de supervisión independiente con poderes de ejecución." El coordinador científico de esta carta es Paolo Benanti, el asesor directo del Papa para la IA, por lo que esto es un asunto muy importante.

El tiempo para la autorregulación de la IA ha terminado. 200 laureados del Premio Nobel, exjefes de estado y expertos de la industria acaban de firmar una declaración: "Hacemos un llamado urgente a establecer líneas rojas internacionales para prevenir riesgos inaceptables de la IA" El llamado fue presentado hoy en la Asamblea General de la ONU por Maria Ressa, laureada con el Premio Nobel de la Paz: