Je trouve ça étrange que les gens pensent qu'ils quantifient des modèles de pointe - Il est presque certain à 100 % à mon avis qu'ils fonctionnent tous déjà sur fp4 et que tout ce qui est en dessous n'est pas optimisé pour les GPU nvidia et je supposerais que c'est pareil pour les tpus et trainium etc etc

@mikechrzano On m'a dit que les b300s étaient spécifiquement conçus autour des besoins d'openai en matière de flops fp4 - supposément parce qu'ils font tout en fp4 maintenant