При проектировании структур данных всегда думайте о кэш-строках (64B или 128B). Вы не хотите, чтобы маленькие узлы были разбросаны по памяти. Часто лучше иметь более широкие узлы (желательно по 1 кэш-строке каждый) и более мелкие структуры. Меньше косвенных указателей/смещений.