Enormt: Nästan alla medlemmar i FN:s säkerhetsråd är för AI-reglering eller att sätta röda linjer. Aldrig tidigare hade principen om röda linjer för AI diskuterats så öppet och på en så hög diplomatisk nivå. FN:s generalsekreterare António Guterres öppnade sessionen med en tydlig uppmaning till handling för röda linjer: • "Ett förbud mot dödliga autonoma vapensystem som fungerar utan mänsklig kontroll, med [...] ett rättsligt bindande instrument senast nästa år" • "behovet av att se till att AI aldrig sänker hindren för förvärv eller användning av förbjudna vapen" Därefter tog Yoshua Bengio till orda och lyfte fram vår globala uppmaning till röda linjer för AI – som nu stöds av 11 Nobelpristagare och 9 tidigare stats- och ministrar. Nästan alla länder var positiva till vissa röda linjer: Kina: "Det är viktigt att se till att AI förblir under mänsklig kontroll och att förhindra framväxten av dödliga autonoma vapen som fungerar utan mänsklig inblandning." Frankrike: "Vi är helt överens med generalsekreteraren, nämligen att inget beslut om liv eller död någonsin bör överföras till ett autonomt vapensystem som fungerar utan mänsklig kontroll." Även om USA avvisade idén om "centraliserad global styrning" för AI, innebar detta inte att man förkastade alla internationella normer. President Trump uppgav vid FN:s generalförsamling att hans administration skulle bana väg för "ett AI-verifieringssystem som alla kan lita på" för att genomdriva konventionen om biologiska vapen, och sa att "förhoppningsvis kan FN spela en konstruktiv roll".

Vatikanen uppmanar också till röda linjer. En vecka före tillkännagivandet av Global Call for AI Red Lines vid FN:s generalförsamling lanserades en annan uppmaning i Rom av en grupp experter på uppdrag av Vatikanen: "Fraternity in the Age of AI". Detta offentliga brev är adresserat direkt till påven och till världens ledare. Författarna, av vilka flera också finns med bland undertecknarna av det globala uppropet, bekräftar sitt stöd för följande röda linjer: "Utvecklingen av superintelligens [...] bör inte tillåtas förrän det finns en bred vetenskaplig konsensus om att det kommer att ske på ett säkert och kontrollerat sätt, och det finns ett tydligt och brett allmänt samtycke" "AI-system får aldrig tillåtas fatta beslut på liv eller död, särskilt inte i militära tillämpningar." "Regeringar, företag och alla andra bör inte använda AI som vapen för någon form av dominans, olagliga anfallskrig, tvång, manipulation, social poängsättning eller obefogad massövervakning." Undertecknarna efterlyser också "bindande internationella fördrag som fastställer röda linjer och en oberoende tillsynsinstitution med verkställande befogenheter". Den vetenskapliga samordnaren för detta brev är Paolo Benanti, påvens direkta rådgivare för AI, så detta är en mycket stor sak.

Tiden för självreglering av AI är över. 200 Nobelpristagare, tidigare statschefer och branschexperter har just skrivit under ett uttalande: "Vi uppmanar omedelbart till internationella röda linjer för att förhindra oacceptabla AI-risker" Uppmaningen presenterades vid FN:s generalförsamling i dag av Maria Ressa, mottagare av Nobels fredspris: