Huge: Aproape toți membrii Consiliului de Securitate al ONU sunt în favoarea reglementării AI sau a stabilirii liniilor roșii. Niciodată până acum nu a fost discutat principiul liniilor roșii pentru AI atât de deschis și la un nivel diplomatic atât de înalt. Secretarul general al ONU, Antonio Guterres, a deschis sesiunea cu un apel ferm la acțiune pentru liniile roșii: • "interzicerea sistemelor de arme autonome letale care funcționează fără control uman, cu [...] un instrument obligatoriu din punct de vedere juridic până anul viitor" • "necesitatea de a se asigura că AI nu reduce niciodată barierele din calea achiziționării sau desfășurării armelor interzise" Apoi, Yoshua Bengio a luat cuvântul și a evidențiat apelul nostru global pentru liniile roșii AI – acum susținut de 11 laureați ai Premiului Nobel și 9 foști șefi de stat și miniștri. Aproape toate țările au fost favorabile unor linii roșii: China: "Este esențial să ne asigurăm că AI rămâne sub control uman și să prevenim apariția armelor autonome letale care funcționează fără intervenție umană." Franța: "Suntem pe deplin de acord cu Secretarul General, și anume că nicio decizie de viață și de moarte nu ar trebui să fie transferată vreodată unui sistem autonom de arme care funcționează fără niciun control uman". În timp ce SUA au respins ideea de "guvernanță globală centralizată" pentru IA, acest lucru nu a echivalat cu respingerea tuturor normelor internaționale. Președintele Trump a declarat la Adunarea Generală a ONU că administrația sa va fi pionierul "unui sistem de verificare AI în care toată lumea poate avea încredere" pentru a pune în aplicare Convenția privind armele biologice, spunând că "sperăm că ONU poate juca un rol constructiv".

Vaticanul cere, de asemenea, linii roșii. Cu o săptămână înainte de anunțarea Apelului Global pentru Liniile Roșii AI la Adunarea Generală a ONU, un alt apel a fost lansat la Roma de către un grup de experți comandați de Vatican: "Fraternitatea în era AI". Această scrisoare publică este adresată direct Papei și liderilor mondiali. Autorii, dintre care câțiva se numără și printre semnatarii Apelului Global, își afirmă sprijinul pentru următoarele linii roșii: "Dezvoltarea superinteligenței [...] nu ar trebui să fie permisă până când nu există un consens științific larg că se va face în siguranță și controlabil și nu există un consimțământ public clar și larg" "Sistemelor AI nu trebuie să li se permită niciodată să ia decizii de viață și de moarte, în special în aplicațiile militare". "Guvernele, corporațiile și oricine altcineva nu ar trebui să folosească AI ca armă pentru niciun fel de dominație, războaie ilegale de agresiune, constrângere, manipulare, scor social sau supraveghere în masă nejustificată". Semnatarii cer, de asemenea, "un tratat internațional obligatoriu care să stabilească linii roșii și o instituție independentă de supraveghere cu puteri de aplicare". Coordonatorul științific al acestei scrisori este Paolo Benanti, consilierul direct al Papei pentru AI, deci aceasta este o problemă foarte mare.

Timpul pentru autoreglarea AI s-a încheiat. 200 de laureați ai premiului Nobel, foști șefi de stat și experți din industrie tocmai au semnat o declarație: "Solicităm urgent linii roșii internaționale pentru a preveni riscurile inacceptabile de IA" Apelul a fost prezentat astăzi la Adunarea Generală a ONU de Maria Ressa, laureată a Premiului Nobel pentru Pace: