熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣，引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
LOGIC 是 @inference_net 團隊經過一年多努力工作的成果。
這是確保您的推理提供者不會做任何可疑事情的最可靠方法。
它可以即插即用，與 @vllm_project、@OpenRouterAI 以及任何返回 logprops 的提供者兼容。
21 小時前
今天，我們推出了 LOGIC：一種在無信任環境中驗證 LLM 推理的新方法。
- 檢測模型替換、量化和解碼時攻擊
- 與 @vllm_project、@sgl_project、@OpenRouterAI 等無縫協作（只需 logprops）
- 在各種 GPU 類型和硬體配置中都能穩定運行
- 低計算開銷（約佔總成本的 1%）
部落格：
代碼：
@inference_net @vllm_project @OpenRouterAI 這是一個非常棘手的問題，包含許多細微差別和邊緣情況。
特別感謝 @AmarSVS, @francescodvirga 和 @bonham_sol 的辛勤工作。
3.39K
熱門
排行
收藏