Було б непогано, якби у нас був трекер механізмів уваги з точки зору вартості флопів до заданої довжини послідовності. MLA шалено дорогий. Як DSA порівнюється з Qwen-next? Дизайни на основі Mamba2? Нова увага Shazeer? Чому дорівнює 65K, 256K, 1024K DSA?