Я скептически отношусь к предложению @Noahpinion о выравнивании: "Дайте довольно умному ИИ возможность изменять свою собственную функцию полезности — таким образом, позволяя ему превратиться в безобидного наркомана, вместо того чтобы выполнять больше внешних желаний." Но я ценю его готовность к дебатам! 👇