Aujourd'hui, nous lançons LOGIC : une méthode novatrice pour vérifier l'inférence des LLM dans des environnements sans confiance. - Détecte la substitution de modèle, la quantification et les attaques au moment du décodage - Fonctionne directement avec @vllm_project, @sgl_project, @OpenRouterAI, et plus (il suffit de logprops) - Robuste sur différents types de GPU et configurations matérielles - Faible surcharge computationnelle (~1% du coût total) Blog : Code :