混合专家(MoE)模型如 DeepSeek-R1 解锁了新的能力水平——但前提是它们能够高效扩展。 这就是极端硬件-软件协同设计在机架规模上发挥作用的地方。 借助 NVIDIA Blackwell 和 NVIDIA Dynamo,AI 服务提供商可以将集群转变为智能推理系统——实现 10 倍的性能和收入,同时降低每个令牌的成本。
现在,随着NVIDIA Dynamo与主要云服务提供商的集成,这种突破性的性能也可供云客户使用——包括 @AWSCloud、@Azure、@GoogleCloud 和 @OracleCloud。 了解更多:
199