我對於「AGI」和「ASI」這些術語所傳達的這項技術的未來感到複雜的情緒。 一方面，AGI 在激勵那些對這個問題著迷的有才華的人（@demishassabis、@ShaneLegg、@ilyasut，還有許多其他人）方面發揮了關鍵作用，並促進了資本的流動，使我們的許多進展成為可能。 另一方面，「AGI」或「ASI」或任何變體目前都在積極損害關於我們這一生中最有趣的技術如何被構建和使用的討論。 a) 這並不是對我們前進方向的準確描述，至少在大多數人解釋這個術語的方式上是如此。看看最近與 @karpathy 和 @dwarkesh_sp 的對話，你會立刻看到我們距離任何類似真正人類智慧的東西有多遠。沒有起飛的證據，時間表不斷擴展。我們正在構建非常有用的技術，這可能會改變企業的運作方式或技術的構建方式，但與「通用智慧」無關。 b) 它變得如此過載，以至於我幾乎找不到兩個人對它的定義相同或對時間表達成一致（無論我們是否已經達到它或距離 30 年）。這就是為什麼每篇關於 AGI 的博客文章都必須提出自己的本地定義以便繼續。我大多數時候贊同 @random_walker's 對於為什麼「智慧」總是以幾乎不連貫的方式使用的看法。 c) 最重要的是，它引發了恐懼——與科幻和哲學中的歷史用法相關（想想《2001太空漫遊》、《她》，任何引發奇點的東西），這與我們實際上所處的技術樹無關。使每次 AI 討論都變得極其容易被擬人化並偏離到假設上。 我們可能需要一個不同的術語來描述我們在這一切結束時試圖構建的東西，以及它對商業和社會的意義。