如果我是 a16z、yc 或 sequoia，我会积极投资于那些正在构建新颖方式来收集和注释现实世界数据的初创公司。 > 数十亿小时的驾驶数据 > 工厂工人与设备和重型机械的互动 > 深入的方言和文化理解的音频分割 > 湿实验室实验数据 > 在计算规模下持续收集和注释代理痕迹 当我们构建 LLM 时，大部分数据已经存在于互联网上。我们只需抓取、清理和扩展。但随着我们朝着世界基础模型的方向发展，瓶颈是高质量、现实世界的、良好注释的数据。 而且注释质量很重要。以下两者之间有巨大的差异： “树上的苹果” 和 “树上的成熟苹果。风速为每小时 2 英里。温度约为 18°C。” 问题很简单。你实际上能捕捉到多少世界？ 今天，LLM 知道苹果因重力而落下，而不是因为它们理解因果关系，而是因为它们非常好地理解语言相关性。理解因果结构是接下来的事情。 如果我在朝着那个未来努力，我会将数据收集的重心放在印度和其他南亚及东南亚地区。我会部署硬件，收集数千小时的人类活动数据、健康信号和生命体征，并持续运行注释管道。昼夜不停。 如果我是 a16z，我会资助创始人来做这件事。 我可能会有冲动自己去做。

今年的预测是，OpenAI 将收购 AMD。Sama 正在下 4D 棋，他已经在其中获胜。AMD 需要 OpenAI，就像 OpenAI 需要 AMD 一样。 这一切始于 AMD 向 OpenAI 发行了 1.6 亿股的认股权证，价格为每股 0.01 美元。随着 OpenAI 部署 6GW 的 AMD GPU，这些股票将归属。如果股票达到 600 美元，而 OpenAI 完全行使这些权利，这些认股权证的价值将达到 960 亿美元（这也大致与交易本身的硬件价值相同）。 这与 OpenAI 与 Nvidia 的交易结构不同。Nvidia 向 OpenAI 投资了 1000 亿美元，而 OpenAI 承诺至少部署 10 GW 的 Nvidia 硬件。OpenAI 是客户，Nvidia 是投资者。OpenAI 在 Nvidia 中没有股份。 在 AMD 的情况下，结构是反转的。OpenAI 成为潜在的部分所有者，对 AMD 的公司战略有影响。这不是你构建供应商关系的方式。这是当你想要构建收购的前奏时的结构。 时机是关键。OpenAI 刚刚从非营利组织转变为营利公司。重组从来不是为了筹集资金，Sama 可以筹集无限的资本。这是为了使非营利组织无法轻易进行的复杂并购成为可能。 这就是它的样子： > OpenAI 通过与三星/SK 海力士的交易控制了全球 40% 的 DRAM 供应 > OpenAI 在 AMD 中拥有 10% 的股份 > OpenAI 正在与博通开发定制芯片 > OpenAI 正在与 TSMC 建造自己的推理芯片 > OpenAI 与 Nvidia 有 1000 亿美元的合作伙伴关系 这看起来可能是垂直整合，但 Sama 实际上是在尝试对整个 AI 计算堆栈进行横向捕获。 AMD 是对 Nvidia 进行超大规模扩展的唯一可信替代方案。他们还收购了 ZT 系统，使他们拥有机架级服务器制造能力。他们拥有竞争力的 GPU。但他们缺乏一个有保障的需求支点。OpenAI 提供了这一点（以及潜在的更多）。 如果 OpenAI 收购 AMD，这将创建一个垂直整合的 AI 公司，设计模型，设计芯片，并控制内存供应。这样的公司目前并不存在。谷歌在 TPUs 和 DeepMind 方面有一些部分，但 TPUs 仅限内部使用。一个 OpenAI-AMD 实体可以在保持专有优势的同时向市场销售。 如果 Intel 在这里出现作为一张更大的牌，我不会感到惊讶。他们拥有 AMD 和 Nvidia 所不具备的国内代工能力。他们还有 x86 架构，仍然主导企业计算。 Nvidia 已经向 Intel 投资了 50 亿美元，但他们的代工业务并没有被 Nvidia 用于芯片制造，他们只是共同开发 CPU。这留下了一个机会。如果 OpenAI 想要为其定制芯片获得国内代工能力，Intel 的代工是唯一的美国选择，且规模可观。 当 Sama 说他需要 5-7 万亿美元来构建 AGI 时，这证明了他建立全球代工网络的雄心。他的时机再好不过了，正好赶上 CHIPS 法案。如果你是政府需要实现半导体独立的公司，你将获得不同的待遇。 最终的目标可能不是 "OpenAI 收购 AMD" 或 "OpenAI 收购 Intel"。而是 "OpenAI 成为将国内芯片公司整合成统一 AI 供应链的整合层"。这将是一个新的实体，协调曾经是独立行业的各个部分。 Sama 正在试图控制模型层，控制芯片层，控制内存层，而在任何人绘制出完整结构时，你已经太过整合，无法解开。

如果史蒂夫·乔布斯还活着，苹果会在打造这个，绝对是一件美丽的科技产品。