Hôm nay, chúng tôi phát hành LOGIC: Một phương pháp mới để xác minh suy diễn LLM trong các môi trường không tin cậy. - Phát hiện thay thế mô hình, lượng tử hóa và các cuộc tấn công thời gian giải mã - Hoạt động ngay lập tức với @vllm_project, @sgl_project, @OpenRouterAI, và nhiều hơn nữa (chỉ cần logprops) - Bền vững trên các loại GPU và cấu hình phần cứng khác nhau - Tải tính toán thấp (~1% tổng chi phí) Blog: Mã nguồn: