ディープラーニングの人々は、勾配(1次)が詰まると、曲率(2次/ヘッセン)が答えだと信じがちです。 むしろ、より良い手は逆方向、すなわち0次法である可能性が高いです。