Les experts en apprentissage profond ont tendance à croire que lorsque les gradients (1er ordre) sont bloqués, la courbure (2e ordre/Hessian) est sûrement la solution. Il se peut que le meilleur mouvement soit dans la direction opposée : les méthodes d'ordre 0.