持續學習是 AI 的下一個重大突破。 當今的深度網絡顯示出災難性遺忘,新的數據點會導致舊知識被抹去,因為反向傳播會更新網絡中的所有權重,導致舊的有用信息被覆蓋。 與此相比,大腦並不進行反向傳播。沒有全局更新,只有每個新數據點的局部更新。 當我們有一個可信的替代方案來取代反向傳播的那一天,就是我們解決持續學習的那一天。 現在是進行 AI 研究的激動人心的時刻!