重大消息：幾乎所有聯合國安全理事會成員都支持對AI進行監管或設定紅線。 從未有過如此高層的外交場合如此公開地討論AI的紅線原則。 聯合國秘書長安東尼奧·古特雷斯以堅定的行動呼籲開啟會議，提出紅線的要求： • “禁止無人類控制的致命自主武器系統，並在明年之前制定一項具有法律約束力的工具” • “確保AI永遠不會降低獲取或部署禁用武器的門檻” 隨後，約書亞·本吉奧發言，強調我們的全球AI紅線呼籲——目前已獲得11位諾貝爾獎得主和9位前國家元首及部長的支持。 幾乎所有國家都對某些紅線表示贊同： 中國：“確保AI始終在人類控制之下，防止無人類干預的致命自主武器出現是至關重要的。” 法國：“我們完全同意秘書長的觀點，即任何生死決策都不應轉交給無人類控制的自主武器系統。” 雖然美國拒絕了對AI進行“集中全球治理”的想法，但這並不意味著拒絕所有國際規範。特朗普總統在聯合國大會上表示，他的政府將開創“每個人都可以信任的AI驗證系統”，以執行生物武器公約，並表示“希望聯合國能發揮建設性作用。”

梵蒂岡也在呼籲紅線。 在聯合國大會宣布全球AI紅線呼籲的一週前，梵蒂岡委託的一組專家在羅馬發起了另一項呼籲："在AI時代的兄弟情誼。" 這封公開信是直接寫給教宗和世界領導人的。 作者中有幾位也是全球呼籲的簽署者，他們確認支持以下紅線： "超智能的發展[…]不應被允許，直到有廣泛的科學共識認為這樣做是安全和可控的，並且有明確和廣泛的公眾同意。" "AI系統絕不應被允許做出生死決策，尤其是在軍事應用中。" "政府、企業和其他任何人都不應將AI武器化以進行任何形式的統治、非法侵略戰爭、脅迫、操控、社會評分或不當的大規模監控。" 簽署者還呼籲"建立紅線的具約束力的國際條約和具有執法權的獨立監管機構。" 這封信的科學協調者是保羅·貝南提，他是教宗在AI方面的直接顧問，因此這是一件非常重要的事情。

AI自我監管的時代已經結束。 200位諾貝爾獎得主、前國家元首和行業專家剛剛簽署了一份聲明： “我們緊急呼籲設定國際紅線，以防止不可接受的AI風險。” 這一呼籲今天由諾貝爾和平獎得主瑪麗亞·雷薩在聯合國大會上提出：