您可以在没有额外训练的情况下将AI推理速度提高3倍。 来自SJTU和华为的研究人员为此推出了LoPA！ 他们的新方法“前瞻并行解码”是一种即插即用的技巧。它智能地预测生成多个令牌的最佳顺序，而不是逐个生成，从而解锁大规模并行计算。 它为D2F-Dream模型提供了强大的动力，使其每步输出超过10个令牌，达到每秒超过1070个令牌——在编码（MBPP）和数学（GSM8K）基准测试中显著超越其他顶级推理系统。 LoPA：通过前瞻并行解码扩展dLLM推理 论文： 代码： 博客： 我们的报告： 📬 #PapersAccepted 由极智信

DeepSeek-R1 的论文在 2 天前更新，从 22 页扩展到 86 页，并增加了大量细节。 新内容涵盖了诸如 DeepSeek-R1-Zero 的自我演化、DeepSeek-R1 的评估、进一步分析以及 DeepSeek-R1 的蒸馏等主题。 DeepSeek-R1：通过强化学习激励 LLM 的推理能力 论文：

哇，AI可以在阅读文档时学习吗？ 来自Astera Institute、NVIDIA等的研究人员提出了一种新方法，将长上下文建模视为一个持续学习问题。 他们使用标准的Transformer，但它通过下一个标记预测实时“学习”文本，将上下文压缩到自己的参数中。 在扩展到长上下文方面，它的表现优于Mamba 2和Gated DeltaNet，同时在处理128K输入时比全注意力快2.7倍。 长上下文的端到端测试时间训练 论文：