Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
Hosico
Hosico−3,12 %
USELESS
USELESS+10,22 %
IKUN
IKUN+5,96 %
gib
gib−4,15 %
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
Bonk
Bonk−3,21 %
ALON
ALON+5,35 %
LAUNCHCOIN
LAUNCHCOIN−2,44 %
GOONC
GOONC−1,35 %
KLED
KLED−3,65 %
#
Boop.Fun leading the way with a new launchpad on Solana.
BOOP
BOOP+0,5 %
Boopa
Boopa+1,76 %
PORK
PORK−4,86 %
header
Simon Mo
@vllm_project
Simon Mo
Simon Mo22 timer siden
🧵Fem pretreningstriks fra CAI. Før Google-avtalen kjørte @character_ai fortrening på GCP H100-TCPX som har 1/4 båndbredde som IB (!). @NoamShazeer oppfant en gradientkomprimeringsalgoritme kalt "Squinch" som opprettholdt SOTA MFU til tross for dårlig nettverksbygging.
51
Simon Mo
Simon Mo23. okt. 2025
Heldig å være en del av to (!) stiftelsesprosjekter (@vllm_project og @raydistributed) som har stor synergi med hverandre. Ray + vLLM + PyTorch-stakken kommer sammen. Gratulerer, Ray!
PyTorch
PyTorch23. okt. 2025
We’re excited to welcome Ray to the PyTorch Foundation 👋 @raydistributed is an open source distributed computing framework for #AI workloads, including data processing, model training and inference at scale. By contributing Ray to the @PyTorch Foundation, @anyscalecompute reinforces its commitment to open governance and long-term sustainability for Ray and open source AI. ➡️ Read the announcement: #PyTorchCon
197