要約すると;ドワルケシュ・パテル博士、イリヤ・スツケヴェルとのインタビュー •現在のアプローチは「ある程度は進み、その後は改善は続けますが、AGIは実現しません。 ・機能するシステムは「まだ作り方がわかっていない」ものである。 ・今後数年間で労働市場に大きな影響が期待されています。 ・主なボトルネック:一般化。モデルは人間よりもはるかに下手です。 ・あらゆる競争的なプログラミング問題でトレーニングしても、モデルは本当の「趣味」を身につけない。ティーンエイジャーが運転を覚えるのは1~10時間で。 ・評価スコアは素晴らしいですが、現実世界のパフォーマンスはRLトレーニングが評価自体に最適化されるため遅れをとります。 ・本当の報酬ハッカーは、これらのベンチマークやトレーニングループを作成する研究者たちです。 ・彼は何が欠けているかについて考えがあるが、公には共有しないと言っている。 • ASIは5〜20年以内に 「ねえ、すごいことがあるの?すべてが現実だと」 その言葉を本当に感じました。