Nepřetržité učení je další velkou věcí v AI. Dnešní hluboké sítě ukazují katastrofální zapomínání tam, kde nové datové body způsobují vymazání starých znalostí, protože zpětné šíření aktualizuje všechny váhy v síti, což způsobuje přepisování starých užitečných informací. Naopak mozek – ten neprovádí zpětné šíření. Žádné globální aktualizace, jen lokální aktualizace s každým novým datovým bodem. Den, kdy budeme mít věrohodnou alternativu k backpropagaci, bude den, kdy vyřešíme kontinuální učení. Je to vzrušující doba pro výzkum AI!