Актуальні теми
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
LOGIC – це результат більш ніж річної кропіткої роботи команди @inference_net.
Це найнадійніший спосіб переконатися, що ваш постачальник висновків не робить нічого схематичного.
Він працює з коробки з @vllm_project, @OpenRouterAI та будь-яким провайдером, який повертає логпропи
8 лист., 00:55
Сьогодні ми випускаємо LOGIC: новий метод перевірки висновків LLM у середовищах без довіри.
- Виявляє атаки підстановки моделі, квантування та декодування за часом
- Працює з коробки з @vllm_project, @sgl_project, @OpenRouterAI та іншими (просто потрібні логреквізити)
- Надійність для різних типів графічних процесорів і апаратних конфігурацій
- Низькі обчислювальні накладні витрати (~1% від загальної вартості)
Блог:
Код:
@inference_net @vllm_project @OpenRouterAI Це була неймовірно складна для вирішення проблема, з безліччю нюансів і крайніх випадків.
Дякуємо @AmarSVS, @francescodvirga та @bonham_sol за всю їхню важку працю над цим
4,09K
Найкращі
Рейтинг
Вибране