您可以在不進行任何額外訓練的情況下，使 AI 推理速度提高 3 倍。 來自 SJTU 和華為的研究人員為此提出了 LoPA！ 他們的新方法「前瞻性並行解碼」是一個即插即用的技巧。它智能地預測生成多個標記的最佳順序，而不是一個一個地生成，從而解鎖大規模的並行計算。 它使 D2F-Dream 模型的輸出每步超過 10 個標記，達到每秒超過 1070 個標記的速度——在編碼 (MBPP) 和數學 (GSM8K) 基準測試中顯著超越其他頂級推理系統。 LoPA：通過前瞻性並行解碼擴展 dLLM 推理 論文： 代碼： 博客： 我們的報告： 📬 #PapersAccepted 由 Jiqizhixin 提交

DeepSeek-R1 的論文在 2 天前更新，從 22 頁擴展到 86 頁，並增加了大量細節。 新內容涵蓋了自我演化的 DeepSeek-R1-Zero、DeepSeek-R1 的評估、進一步分析以及 DeepSeek-R1 的蒸餾等主題。 DeepSeek-R1：通過強化學習激勵 LLM 的推理能力 論文：

哇，AI可以在閱讀文件的同時學習嗎？ 來自Astera Institute、NVIDIA等的研究人員提出了一種新方法，將長上下文建模視為一個持續學習問題。 他們使用標準的Transformer，但它通過下一個標記預測實時「學習」文本，將上下文壓縮到自己的參數中。 在擴展到長上下文方面，它的表現超過了Mamba 2和Gated DeltaNet，同時在128K輸入的情況下比全注意力快2.7倍。 長上下文的端到端測試時訓練 論文：