Kiến trúc Blackwell mới của NVIDIA thật đáng kinh ngạc! Thật không thể tin được NVIDIA đã đi trước mọi người xa đến mức nào. Blackwell là một nâng cấp lớn trong kiến trúc GPU. Bạn có thể huấn luyện và phục vụ các mô hình có hàng triệu tham số nhanh hơn, rẻ hơn và ở quy mô mà vài năm trước đây còn là khoa học viễn tưởng. 1. Tốc độ huấn luyện nhanh gấp 2,5 lần và hiệu suất suy diễn gấp 4 lần (so với Hopper) 2. 192 GB bộ nhớ và băng thông bộ nhớ 8TB/s 3. 208 tỷ bóng bán dẫn trong thiết kế dual die (Hopper là single die, với 80 tỷ bóng bán dẫn) Tôi đã đọc một phân tích trực tuyến ước tính rằng OpenAI có thể tiết kiệm được 1,43 triệu đô la cho mỗi chu kỳ đánh giá khi chạy o3! Điều này thật đáng kinh ngạc! Nếu công ty của bạn hiện đang sử dụng một cụm GPU, hãy xem xét việc chuyển sang cụm Blackwell. Blackwell sẽ vượt qua mọi thứ liên quan đến AI về chi phí và hiệu suất. Bạn có thể đặt trước một cụm ngay bây giờ: