We zijn enthousiast om ons nieuwe AI-paper volgende week te presenteren als een @NeurIPSConf spotlight: we ontdekken dat het probleem van het beheersen van kunstmatige superintelligentie nog steeds niet is opgelost. Met simulaties en schaalwetten ontdekken we dat een implementatie van het minst veelbelovende controle-idee dat tot nu toe is gepubliceerd (geneste schaalbare toezicht) in ieder geval 92% van de tijd faalt. Toch racen bedrijven om het te bouwen. @dbaek__ @JoshAEngels @thesubhashk