"如果我们作为一个社会相信，5年和10年后这些模型将对做出相当重要的决策至关重要，那么我认为黑箱方法在长期内是不可扩展的。 机械可解释性实际上是深入研究模型的权重，试图弄清楚，'模型为什么会这样做？'" Deedy 解释了黑箱模型的危险性以及随着模型变得越来越重要，机械可解释性的实用性。 @deedydas