如果我是 a16z、yc 或 sequoia，我會積極投資於那些正在建立新方法來收集和註釋現實世界數據的初創公司。 > 數十億小時的駕駛數據 > 工廠工人與設備和重型機械的互動 > 具備深厚方言和文化理解的音頻分割 > 濕實驗室實驗數據 > 在計算規模下持續收集和註釋代理痕跡 當我們建立 LLM 時，大部分數據已經存在於互聯網上。我們只需抓取、清理和擴展。但隨著我們朝著世界基礎模型邁進，瓶頸在於高質量、現實世界的、良好註釋的數據。 而註釋質量至關重要。這之間有著巨大的差異： “樹上的蘋果” 和 “樹上的成熟蘋果。風速為每小時 2 英里。氣溫約為 18°C。” 問題很簡單。你實際上能捕捉到多少世界？ 今天，LLM 知道蘋果因為重力而掉落，而不是因為它們理解因果關係，而是因為它們非常擅長理解語言相關性。理解因果結構是接下來的任務。 如果我在朝著那個未來努力，我會將數據收集的重心放在印度和其他南亞及東南亞地區。我會部署硬體，收集數千小時的人類活動數據、健康信號和生命體徵，並持續運行註釋管道。日以繼夜。 如果我是 a16z，我會資助創始人來做這件事。 我可能會有衝動自己去做。

今年的預測是 OpenAI 將收購 AMD。Sama 正在下 4D 棋，他已經在這方面獲勝。AMD 需要 OpenAI，就像 OpenAI 需要 AMD 一樣。 這一切始於 AMD 向 OpenAI 發行了 1.6 億股的認股權證，每股價格為 0.01 美元。當 OpenAI 部署 6GW 的 AMD GPU 時，這些股票將歸屬。如果股票價格達到 600 美元，且 OpenAI 完全行使這些權證，這些權證的價值將達到 960 億美元（這也大致是交易本身硬體的相同價值）。 這與 OpenAI 與 Nvidia 的交易結構不同。Nvidia 向 OpenAI 投資了 1000 億美元，OpenAI 承諾至少部署 10 GW 的 Nvidia 硬體。OpenAI 是客戶，Nvidia 是投資者。OpenAI 在 Nvidia 中沒有持股。 在 AMD 的情況下，結構是反向的。OpenAI 成為潛在的部分擁有者，對 AMD 的企業戰略有影響。這不是你結構供應商關係的方式。這是當你想要結構收購的前身。 時機是關鍵。OpenAI 剛剛從非營利組織轉變為營利公司。這次重組從來不是為了籌集資金，Sama 可以籌集無限的資本。這是為了使非營利組織無法輕易進行的複雜併購成為可能。 這就是它的樣子： > OpenAI 通過三星/SK 海力士的交易控制全球 DRAM 供應的 40% > OpenAI 擁有 AMD 的 10% 股權 > OpenAI 正在與博通開發定制芯片 > OpenAI 正在與 TSMC 建造自己的推理芯片 > OpenAI 與 Nvidia 有 1000 億美元的合作夥伴關係 這看起來可能是一種垂直整合，但 Sama 實際上是在嘗試對整個 AI 計算堆棧進行橫向捕獲。 AMD 是超級擴展的唯一可信替代品。他們還收購了 ZT 系統，讓他們擁有機架級伺服器製造能力。他們擁有競爭力的 GPU。但他們缺乏保證的需求支撐。OpenAI 提供了這一點（以及潛在的更多）。 如果 OpenAI 收購 AMD，這將創造一個垂直整合的 AI 公司，設計模型、設計芯片並控制記憶體供應。這樣的公司目前並不存在。谷歌擁有 TPUs 和 DeepMind 的部分，但 TPUs 僅限內部使用。一個 OpenAI-AMD 實體可以在保持專有優勢的同時向市場銷售。 如果 Intel 在這裡出現作為一張更大的牌，我也不會感到驚訝。他們擁有 AMD 和 Nvidia 都不具備的國內晶圓廠能力。他們還擁有 x86 架構，這仍然主導著企業計算。 Nvidia 已經向 Intel 投資了 50 億美元，但他們的晶圓廠業務並未被 Nvidia 用於芯片製造，他們僅僅是共同開發 CPU。這留下了一個空隙。如果 OpenAI 想要為其定制芯片尋求國內晶圓廠能力，Intel 的晶圓廠是唯一的美國選擇，且規模可行。 當 Sama 說他需要 5-7 萬億美元來建造 AGI 時，這證明了他建立全球晶圓網絡的雄心。他的時機再好不過了，正好趕上 CHIPS 法案。如果你是政府需要實現半導體獨立的公司，你將獲得不同的待遇。 最終的結果可能不是 "OpenAI 收購 AMD" 或 "OpenAI 收購 Intel"。而是 "OpenAI 成為將國內芯片公司整合成統一 AI 供應鏈的整合層"。這將是一種新型實體，協調過去曾經是分開的行業。 Sama 正在試圖控制模型層、控制芯片層、控制記憶體層，等到任何人繪製出完整結構時，你已經過於整合，無法解開。

如果史蒂夫·喬布斯還活著，蘋果會在打造這個，這是一件絕對美麗的科技產品。