イリヤには嬉しい驚きを感じています。彼は、一般的なAI議論にはほとんど見られない知能の重要な側面をいくつか特定しています。これらは： 1. 知能とは、多くのことを知ることではなく、学ぶ能力に関するものです。正しい目標は、展開の経験から学べるシステムです。 2. 人間のようなサンプル効率的な学習には価値関数が必要です。報酬がない場合でも、密度の高いフィードバック(TD学習)を提供できます。 どちらも必須で実現可能です。重要なボトルネックは、推論と同じくらいの計算量で確実に学習できるアルゴリズムが存在しないことです。このようなアルゴリズムは、継続的に学習するために必要です。もうすぐだと思う。これらのアルゴリズムを見つけるために働く人が十分にいないのです。 また、イリヤが進歩するには単に計算量を増やすだけでなく、より多くのアイデアが必要だと認めてくれたことも嬉しいです。重要なアルゴリズムの改善は比較的少ない計算量で実現できると予測します。 一人あたり多数のCUDAコア(5090コア以上)を持つGPUが数台、または1人あたり9995 WX以上の最先端のマルチコアCPUを数台持つだけで、適切なアルゴリズムを見つけるのに十分です。 大規模なデモンストレーションは、あなたが正しい学びのレシピを見つけたと世界に納得させるためにのみ重要です。 *テンソルコアは新しいアイデアを素早く試すには柔軟性が足りません。