Google là công ty không thiếu sức mạnh tính toán nhất, thậm chí còn hơn cả NVIDIA. Thậm chí GPU của NVIDIA rất có thể là đi theo TPU (đây là sự đồng thuận bán chính thức trong ngành) 1️⃣ Lõi tensor (Tensor Core) NVIDIA đã hoàn toàn áp dụng sau Volta, về bản chất là hướng tới chuyên môn hóa phép nhân ma trận của TPU. 2️⃣ Tính toán độ chính xác thấp (FP16 / BF16 / INT8) TPU đã sớm tối ưu hóa độ chính xác thấp cho suy diễn, GPU thì sau này bị nhu cầu của mô hình "ép" phải hỗ trợ. 3️⃣ Cụm quy mô lớn + Hợp tác biên dịch TPU là sự kết hợp của "phần cứng × biên dịch viên × lập lịch", trong khi NVIDIA mới bắt đầu nghiêm túc làm hợp tác ở cấp độ Triton / CUDA Graph / NVLink. NVIDIA kiếm tiền từ sức mạnh chip, trong khi Google dựa vào hệ sinh thái ổn định lâu dài, quảng cáo, công cụ tìm kiếm, YouTube, trình duyệt, Android và nhiều hiện tượng mạng khác để cung cấp nguồn lực, sức mạnh tính toán chỉ là chi phí của họ, không phải là tiêu thụ lợi nhuận. TPU luôn là sản phẩm tự nghiên cứu của Google, cho phép nghiên cứu và lật đổ trong thời gian đủ dài. Jeff Dean hiểu về TPU là, nếu mô hình là do bạn định nghĩa, thì phần cứng cũng nên do bạn định nghĩa, vì vậy TPU là một hệ thống kỹ thuật toàn diện từ biên dịch viên (XLA), đồ thị tính toán (TensorFlow), cấu trúc trung tâm dữ liệu, đến hệ thống lập lịch. Về mặt rủi ro, do NVIDIA bán GPU, họ phải phục vụ tất cả khách hàng, tỷ lệ lỗi rất thấp. Nên mua cổ phiếu Mỹ nào, giờ đã rõ rồi phải không?