継続的な学習はAIの次の大きなトレンドです。 今日の深層ネットワークでは、新しいデータポイントがネットワーク内のすべての重みを更新するため、古い知識が消去されるという壊滅的な忘却現象が見られます。これにより、古い有用な情報が上書きされます。 これを脳と比べると、逆伝播はしません。グローバルな更新はなく、新しいデータポイントごとにローカルな更新のみが行われます。 逆伝播に代わる信頼できる選択肢ができた日こそ、継続的な学習の問題を解決する日です。 AI研究をするには今こそワクワクする時期です!