Énorme : presque tous les membres du Conseil de sécurité de l'ONU sont en faveur de la régulation de l'IA ou de l'établissement de lignes rouges. Jamais auparavant le principe des lignes rouges pour l'IA n'avait été discuté aussi ouvertement et à un niveau diplomatique aussi élevé. Le Secrétaire général de l'ONU, Antonio Guterres, a ouvert la session par un appel ferme à l'action pour des lignes rouges : • "un interdiction des systèmes d'armement autonomes létaux fonctionnant sans contrôle humain, avec [...] un instrument juridiquement contraignant d'ici l'année prochaine" • "la nécessité de s'assurer que l'IA ne baisse jamais les barrières à l'acquisition ou au déploiement d'armes interdites" Ensuite, Yoshua Bengio a pris la parole et a souligné notre Appel mondial pour des lignes rouges en matière d'IA — désormais soutenu par 11 lauréats du prix Nobel et 9 anciens chefs d'État et ministres. Presque tous les pays étaient favorables à certaines lignes rouges : Chine : "Il est essentiel de s'assurer que l'IA reste sous contrôle humain et d'empêcher l'émergence d'armes autonomes létales qui fonctionnent sans intervention humaine." France : "Nous sommes entièrement d'accord avec le Secrétaire général, à savoir qu'aucune décision de vie ou de mort ne devrait jamais être transférée à un système d'armement autonome fonctionnant sans aucun contrôle humain." Alors que les États-Unis ont rejeté l'idée d'une "gouvernance mondiale centralisée" pour l'IA, cela ne signifiait pas le rejet de toutes les normes internationales. Le président Trump a déclaré à l'Assemblée générale de l'ONU que son administration serait pionnière d'un "système de vérification de l'IA auquel tout le monde peut faire confiance" pour faire respecter la Convention sur les armes biologiques, en disant "espérons-le, l'ONU peut jouer un rôle constructif."

Le Vatican appelle également à des lignes rouges. Une semaine avant l'annonce de l'Appel Mondial pour des Lignes Rouges sur l'IA lors de l'Assemblée Générale de l'ONU, un autre appel a été lancé à Rome par un groupe d'experts commissionnés par le Vatican : "Fraternité à l'Ère de l'IA." Cette lettre publique est adressée directement au Pape et aux dirigeants mondiaux. Les auteurs, dont plusieurs sont également parmi les signataires de l'Appel Mondial, affirment leur soutien aux lignes rouges suivantes : "Le développement de la superintelligence […] ne devrait pas être autorisé tant qu'il n'y a pas de large consensus scientifique sur le fait qu'il sera réalisé de manière sûre et contrôlable, et qu'il y a un consentement public clair et large." "Les systèmes d'IA ne doivent jamais être autorisés à prendre des décisions de vie ou de mort, en particulier dans des applications militaires." "Les gouvernements, les entreprises et quiconque d'autre ne devraient pas militariser l'IA pour tout type de domination, de guerres d'agression illégales, de coercition, de manipulation, de notation sociale ou de surveillance de masse injustifiée." Les signataires appellent également à un "traité international contraignant établissant des lignes rouges et une institution de surveillance indépendante avec des pouvoirs d'exécution." Le coordinateur scientifique de cette lettre est Paolo Benanti, l'advisor direct du Pape pour l'IA, donc c'est un très gros problème.

Le temps de l'auto-régulation de l'IA est révolu. 200 lauréats du prix Nobel, anciens chefs d'État et experts de l'industrie viennent de signer une déclaration : "Nous appelons d'urgence à des lignes rouges internationales pour prévenir des risques inacceptables liés à l'IA." Cet appel a été présenté aujourd'hui à l'Assemblée générale des Nations Unies par Maria Ressa, lauréate du prix Nobel de la paix :