10GW → 100GW → 1TW trung tâm dữ liệu GPU. Đua đến Cụm Triệu Đô. Cuộc cách mạng AI đã âm thầm bắt đầu vào năm 2012 với AlexNet Được đào tạo chỉ trên 2 chiếc Nvidia GTX 580 (3GB) Ilya đã nhìn thấy điều đó sớm: "các kết quả của chúng tôi có thể được cải thiện đơn giản bằng cách chờ đợi các GPU nhanh hơn và các tập dữ liệu lớn hơn."