重大消息：几乎所有联合国安全理事会成员都支持对AI进行监管或设定红线。 从未有过如此高的外交层面上如此公开地讨论AI的红线原则。 联合国秘书长安东尼奥·古特雷斯在会议开始时坚定地呼吁设定红线： • “禁止无人控制的致命自主武器系统，并在明年之前制定一项具有法律约束力的工具” • “确保AI永远不会降低获取或部署被禁止武器的门槛的必要性” 随后，约书亚·本吉奥发言，强调我们全球对AI红线的呼吁——现在得到了11位诺贝尔奖获得者和9位前国家元首及部长的支持。 几乎所有国家都支持设定一些红线： 中国：“确保AI始终在人类控制之下，并防止无人干预的致命自主武器的出现是至关重要的。” 法国：“我们完全同意秘书长的观点，即任何生死决策都不应转交给无人控制的自主武器系统。” 尽管美国拒绝了对AI进行“集中全球治理”的想法，但这并不意味着拒绝所有国际规范。特朗普总统在联合国大会上表示，他的政府将开创“一个人人信任的AI验证系统”，以执行《生物武器公约》，并表示“希望联合国能发挥建设性作用。”

梵蒂冈也在呼吁设定红线。 在联合国大会宣布全球人工智能红线倡议的前一周，梵蒂冈委托的一组专家在罗马发起了另一个呼吁："人工智能时代的兄弟情谊。" 这封公开信直接致函教皇和世界领导人。 作者中有几位也是全球呼吁的签署者，他们确认支持以下红线： "在广泛的科学共识尚未达成之前，不应允许发展超级智能 […]，以确保其安全和可控，并且有明确和广泛的公众同意。" "人工智能系统绝不应被允许做出生死决策，尤其是在军事应用中。" "政府、企业以及其他任何人都不应将人工智能武器化，以进行任何形式的统治、非法侵略战争、胁迫、操控、社会评分或不当的大规模监视。" 签署者还呼吁"建立具有强制力的国际条约，设定红线并设立具有执行权的独立监督机构。" 这封信的科学协调员是保罗·贝南提，他是教皇在人工智能方面的直接顾问，因此这是一件非常重要的事情。

AI自我监管的时代已经结束。 200位诺贝尔奖得主、前国家元首和行业专家刚刚签署了一份声明： “我们紧急呼吁设定国际红线，以防止不可接受的AI风险。” 这一呼吁今天由诺贝尔和平奖得主玛丽亚·雷萨在联合国大会上提出：