¡La nueva arquitectura Blackwell de NVIDIA es alucinante! Es increíble lo lejos que está NVIDIA de todos los demás. Blackwell es una actualización masiva en la arquitectura de GPU. Puede entrenar y servir modelos de billones de parámetros de manera más rápida, económica y a una escala que era ciencia ficción hace unos años. 1. Velocidad de entrenamiento 2,5 veces mayor y eficiencia de inferencia 4 veces mayor (en comparación con Hopper) 2. 192 GB de memoria y ancho de banda de memoria de 8 TB / s 3. 208 mil millones de transistores en un diseño de doble matriz (Hopper es de una sola matriz, con 80 mil millones de transistores) ¡Leí un análisis en línea que estima que OpenAI podría ahorrar $ 1.43 millones por ciclo de evaluación de ejecución de o3! ¡Esto es alucinante! Si su empresa utiliza actualmente un clúster de GPU, considere la posibilidad de considerar un clúster de Blackwell. Blackwell superará a todo lo relacionado con la IA en términos de costos y eficiencia. Puede reservar un clúster ahora mismo: