分享一段有趣的近期對話，討論AI對經濟的影響。 AI被比作各種歷史先例：電力、工業革命等等，我認為最強的類比是將AI視為一種新的計算範式（Software 2.0），因為這兩者根本上都是關於數位信息處理的自動化。 如果你要預測1980年代計算對就業市場的影響，你會關注一項任務/工作的最具預測性的特徵是其算法的固定程度，即你是否只是根據機械的、易於指定的規則（例如打字、記帳、人類計算器等）來機械地轉換信息？在那時，這是當時計算能力所允許我們編寫的程序類別（手動編寫）。 現在有了AI，我們能夠編寫以前無法手動編寫的新程序。我們通過指定目標（例如分類準確性、獎勵函數）來做到這一點，並通過梯度下降搜索程序空間，以找到對該目標表現良好的神經網絡。這是我之前的一篇Software 2.0博客文章。在這種新的編程範式中，新的最具預測性的特徵是可驗證性。如果一項任務/工作是可驗證的，那麼它可以直接或通過強化學習進行優化，並且可以訓練神經網絡以極其良好的效果運作。這是關於AI能在多大程度上“練習”某件事。環境必須是可重置的（你可以開始新的嘗試）、高效的（可以進行很多次嘗試）和可獎勵的（有某種自動化過程來獎勵任何特定的嘗試）。 一項任務/工作越是可驗證，就越容易在新的編程範式中實現自動化。如果它不可驗證，那麼它必須依賴神經網絡的泛化魔法，或者通過模仿等較弱的手段。這就是推動LLMs進展的“鋸齒狀”邊界。可驗證的任務迅速進展，甚至可能超過頂尖專家的能力（例如數學、代碼、觀看視頻的時間、任何看起來像是有正確答案的謎題），而許多其他任務則相形見絀（創造性、策略性、結合現實世界知識、狀態、上下文和常識的任務）。 Software 1.0輕鬆自動化你可以指定的內容。 Software 2.0輕鬆自動化你可以驗證的內容。