Vi er glade for å presentere vårt nye AI-papir som et @NeurIPSConf spotlight neste uke: vi finner at problemet med å kontrollere kunstig superintelligens fortsatt er uløst. Med simuleringer og skaleringslover finner vi at en implementering av den minst lovende kontrollideen som er publisert så langt (nested scalable oversight) feiler minst 92 % av gangene. Likevel konkurrerer selskapene om å bygge det. @dbaek__ @JoshAEngels @thesubhashk