Gradient descent is een krachtig hulpmiddel voor optimalisatieruimtes die de manifoldhypothese verifiëren, maar de ruimte van redeneren is discreet en combinatorisch. GD faalt in klifachtige landschappen waar een enkele discrete verandering (een logische stap) de hele uitkomst verandert. Tenzij...???