熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
Hosico
Hosico-6.07%
USELESS
USELESS-6.26%
IKUN
IKUN-1.67%
gib
gib-1.55%
#
有消息稱 Pump.fun 計劃 40 億估值發幣，引發市場猜測
Bonk
Bonk-1.56%
ALON
ALON+5.58%
LAUNCHCOIN
LAUNCHCOIN-2.46%
GOONC
GOONC-1.36%
KLED
KLED-14.87%
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
BOOP
BOOP+0.07%
Boopa
Boopa+1.77%
PORK
PORK0.00%
header
Inference
推理研究與開發
Inference
Inference2025年11月8日
今天，我們推出了 LOGIC：一種在無信任環境中驗證 LLM 推理的新方法。 - 檢測模型替換、量化和解碼時攻擊 - 與 @vllm_project、@sgl_project、@OpenRouterAI 等無縫協作（只需 logprops） - 在各種 GPU 類型和硬體配置中都能穩定運行 - 低計算開銷（約佔總成本的 1%） 部落格： 代碼：
133
Inference
Inference2025年10月17日
今天我們推出了 Schematron：3B 和 8B 模型，能以前沿級別的準確性從 HTML 中提取類型化的 JSON。 我們構建 Schematron 以成為數據提取的終極 𝘸𝘰𝘳𝘬𝘩𝘰𝘳𝘴𝘦： – 比 GPT-5 便宜 50-100 倍 – 延遲約低 10 倍 – 兩個模型在結構化提取上超越 Gemini 2.5 Flash Schematron 使互聯網規模的結構化網絡數據對開發者、研究人員和代理人可及。 現在可以通過我們的無伺服器 API 和 HuggingFace 獲得。 在我們的博客上閱讀訓練細節和基準 👇
131
Inference
Inference2025年10月1日
雖然前沿模型在代理搜索方面表現出色，但對於這種以令牌為主的任務來說，它們的成本過高且速度緩慢。這是一個問題，因為搜索精度往往隨著處理的令牌數量而增加。 解決方案是小型、經過精心強化學習訓練的模型，專門針對個別搜索引擎，這些模型能夠在成本和速度上比一般的前沿模型便宜一到兩個數量級。
Michael
Michael2025年10月1日
Thanks to the resurgence of RL, LLMs are finally able to reliably coordinate tools and reasoning to do high-precision retrieval. Companies like Happenstance, Clado, and Mintlify have already shifted to agentic search, and it's only a matter of time until anything less feels broken to users.
196