Hoje, lançamos o LOGIC: um método inovador para verificar a inferência de LLM em ambientes sem confiança. - Detecta substituição de modelo, quantização e ataques no tempo de decodificação - Funciona diretamente com @vllm_project, @sgl_project, @OpenRouterAI e mais (apenas precisa de logprops) - Robusto em diferentes tipos de GPU e configurações de hardware - Baixo custo computacional (~1% do custo total) Blog: Código: