Непрерывное обучение — это следующая большая вещь в AI. Современные глубокие сети демонстрируют катастрофическое забывание, когда новые данные стирают старые знания, потому что обратное распространение обновляет все веса в сети, что приводит к перезаписи полезной старой информации. В отличие от этого, мозг не использует обратное распространение. Нет глобальных обновлений, только локальные обновления с каждой новой точкой данных. День, когда у нас появится надежная альтернатива обратному распространению, станет днем, когда мы решим проблему непрерывного обучения. Это захватывающее время для исследований в области AI!