Voortdurend leren is de volgende grote stap in AI. De diepe netwerken van vandaag vertonen catastrofaal vergeten, waarbij nieuwe gegevenspunten ervoor zorgen dat oude kennis wordt gewist omdat backpropagation alle gewichten in een netwerk bijwerkt, waardoor oude nuttige informatie wordt overschreven. Vergelijk dit met de hersenen - het doet geen backpropagation. Geen globale updates, alleen lokale updates met elk nieuw gegevenspunt. De dag dat we een geloofwaardig alternatief voor backpropagation hebben, is de dag dat we het probleem van continu leren zullen oplossen. Het is een spannende tijd om AI-onderzoek te doen!