Enorme: Quase todos os membros do Conselho de Segurança da ONU são a favor da regulamentação da IA ou do estabelecimento de linhas vermelhas. Nunca antes o princípio das linhas vermelhas para a IA foi discutido tão abertamente e em um nível diplomático tão alto. O secretário-geral da ONU, Antonio Guterres, abriu a sessão com um firme apelo à ação para as linhas vermelhas: • "a proibição de sistemas de armas autônomas letais operando sem controle humano, com [...] um instrumento juridicamente vinculativo no próximo ano" • "a necessidade de garantir que a IA nunca reduza as barreiras à aquisição ou implantação de armas proibidas" Em seguida, Yoshua Bengio tomou a palavra e destacou nossa Chamada Global para Linhas Vermelhas de IA – agora endossada por 11 ganhadores do Prêmio Nobel e 9 ex-chefes de estado e ministros. Quase todos os países foram favoráveis a algumas linhas vermelhas: China: "É essencial garantir que a IA permaneça sob controle humano e evitar o surgimento de armas autônomas letais que operam sem intervenção humana." França: "Concordamos plenamente com o Secretário-Geral, ou seja, que nenhuma decisão de vida ou morte deve ser transferida para um sistema de armas autônomo operando sem qualquer controle humano." Embora os EUA tenham rejeitado a ideia de "governança global centralizada" para a IA, isso não equivaleu a rejeitar todas as normas internacionais. O presidente Trump declarou na AGNU que seu governo seria pioneiro em "um sistema de verificação de IA em que todos possam confiar" para fazer cumprir a Convenção de Armas Biológicas, dizendo que "espero que a ONU possa desempenhar um papel construtivo".

O Vaticano também está pedindo linhas vermelhas. Uma semana antes do anúncio do Chamado Global para Linhas Vermelhas de IA na Assembleia Geral da ONU, outro apelo foi lançado em Roma por um grupo de especialistas comissionado pelo Vaticano: "Fraternidade na Era da IA". Esta carta pública é dirigida diretamente ao Papa e aos líderes mundiais. Os autores, vários dos quais também estão entre os signatários da Chamada Global, afirmam seu apoio às seguintes linhas vermelhas: "O desenvolvimento da superinteligência [...] não deve ser permitido até que haja amplo consenso científico de que isso será feito de forma segura e controlada, e haja um consentimento público claro e amplo" "Os sistemas de IA nunca devem ter permissão para tomar decisões de vida ou morte, especialmente em aplicações militares." "Governos, corporações e qualquer outra pessoa não devem usar a IA como arma para qualquer tipo de dominação, guerras ilegais de agressão, coerção, manipulação, pontuação social ou vigilância em massa injustificada." Os signatários também pedem "um tratado internacional vinculativo que estabeleça linhas vermelhas e uma instituição de supervisão independente com poderes de execução". O coordenador científico desta carta é Paolo Benanti, o conselheiro direto do Papa para a IA, então isso é muito importante.

O tempo da autorregulação da IA acabou. 200 ganhadores do Prêmio Nobel, ex-chefes de estado e especialistas do setor acabaram de assinar uma declaração: "Pedimos urgentemente linhas vermelhas internacionais para evitar riscos inaceitáveis de IA" O apelo foi apresentado na Assembleia Geral da ONU hoje por Maria Ressa, ganhadora do Prêmio Nobel da Paz: