Heute veröffentlichen wir LOGIC: Eine neuartige Methode zur Überprüfung der LLM-Inferenz in vertrauenslosen Umgebungen. - Erkennt Modellsubstitution, Quantisierung und Angriffe zur Dekodierungszeit - Funktioniert sofort mit @vllm_project, @sgl_project, @OpenRouterAI und mehr (benötigt nur logprops) - Robust über GPU-Typen und Hardwarekonfigurationen - Geringer Rechenaufwand (~1% der Gesamtkosten) Blog: Code: