Mustafa Suleyman tentang mengapa perlombaan AGI PALSU, revolusi agen $ 1 juta yang akan datang, dan rencana akhir Microsoft untuk swasembada. - Tes Turing baru: agen mengubah $100 ribu menjadi $1 juta dalam ekonomi riil - Penahanan > penyelarasan dalam jangka pendek - Mengapa kepribadian AI adalah kesalahan tingkat kepunahan - Kerusuhan sosial jangka pendek tidak dapat dihindari - Bagaimana AGI lebih besar dari matematika, sains, atau penemuan tunggal apa pun (00:00) - Evolusi AI dan Peran Microsoft (09:12) - Tolok Ukur Ekonomi untuk Agen AI (18:37) - Masa Depan AI dalam Sains dan Teknik (27:54) - Strategi Penyelarasan dan Penahanan AI (36:42) - Antropomorfisme dan Kepribadian AI (46:10) - Peran AI dalam Pemerintahan dan Masyarakat @mustafasuleyman adalah CEO Microsoft AI dan salah satu pendiri DeepMind dan Inflection AI. Dia bergabung dengan saya, @DavidBlundin, dan @alexwg untuk percakapan tentang mengapa "ras AGI" adalah bingkai yang menyesatkan, bagaimana agen AI akan membentuk kembali ekonomi sebelum mereka memecahkan masalah ilmiah, potensi kerusuhan sosial di masa depan, dan mengapa kepribadian hukum AI adalah garis merah untuk kelangsungan hidup manusia.

Alih-alih "memenangkan" perlombaan AGI, fokus sebenarnya Microsoft adalah kemandirian AI.