Saya merasa orang-orang aneh mengira mereka mengukur model perbatasan - Ini mendekati 100% imo bahwa mereka semua sudah berjalan di fp4 dan apa pun yang kurang tidak dioptimalkan untuk gpu nvidia dan saya akan berasumsi tpu dan trainium dll
@mikechrzano saya diberitahu bahwa b300 dirancang khusus di sekitar kebutuhan openai akan fp4 flop - diasumsikan karena mereka melakukan segalanya di fp4 sekarang
1,01K