С нетерпением представляем нашу новую статью по ИИ на @NeurIPSConf в следующую неделю: мы обнаружили, что проблема контроля над искусственным суперинтеллектом остается нерешенной. С помощью симуляций и законов масштабирования мы выяснили, что реализация наименее многообещающей идеи контроля, опубликованной до сих пор (вложенный масштабируемый надзор), терпит неудачу как минимум в 92% случаев. Тем не менее, компании спешат ее создать. @dbaek__ @JoshAEngels @thesubhashk