Învățarea continuă este următorul mare trend în AI. Rețelele profunde de astăzi prezintă o uitare catastrofală, unde noile puncte de date cauzează ștergerea cunoștințelor vechi, deoarece backpropagarea actualizează toate greutățile dintr-o rețea, determinând suprascrierea informațiilor vechi utile. Compară asta cu creierul – nu face backpropagation. Fără actualizări globale, doar actualizări locale cu fiecare nou punct de date. Ziua în care vom avea o alternativă credibilă la backpropagation va fi ziua în care vom rezolva învățarea continuă. Este o perioadă interesantă pentru a face cercetare în domeniul AI!