На прошлой неделе @NVIDIA представила CUDA 13.1, в которой появился новый парадигма программирования параллельных вычислений - тайлы. "Традиционная" CUDA предоставляет модель аппаратного обеспечения и программирования с одним инструкцией и множеством потоков (SIMT) для разработчиков. 1/6

Эта парадигма обеспечивает максимальную гибкость, но может стать утомительной и трудной для оптимизации. Парадигма плиток рассматривает тензоры как фундаментальные объекты и строит на этом. Это промежуточный уровень для языков более высокого уровня. 2/6

Программирование на основе плиток позволяет вам программировать ваш алгоритм, указывая фрагменты данных или плитки, а затем определяя вычисления, выполняемые над этими плитками. 3/6

Вам не нужно настраивать, как ваш алгоритм выполняется на уровне каждого элемента: компилятор и среда выполнения позаботятся об этом за вас. 4/6

Интересно, что программирование на основе плиток сначала будет доступно для разработки на Python, хотя и с использованием cuTile Python. Традиционно основной язык программирования для CUDA, C++, будет выпущен позже. 5/6