sgl-project/sglang

XPU 夜间测试新增 per-model 指标 JSONL 记录与健康看板

值得精读。核心看点：① opt-in 零影响设计——env var 默认 None、全仓库无调用方，配合 append-only 与吞错，把“记录”与“决策”彻底分离，这是 CI 可观测性改造的安全姿势；② 双级记录（model 级 rich records + file 级 fallback）与 `test_file` 去重机制，兼顾数据丰富度与覆盖率；③ workflow 中直接内嵌 Python 渲染 dashboard 的做法，优点是单文件自包含，缺点是难测试。如果想复刻该模式，建议至少补一条 jsonl schema 的自动化测试，并统一 env var 的访问方式（全部走 `Envs` descriptor）。

trtllm_mla 解码路径支持 DCP，长上下文吞吐提升达 68%

值得精读。重点看三处设计决策：一是 `q_len == 1` 免全局因果边界的论证与其在 `_run_decode_kernel` 的门控实现（理解 DCP 内核契约的关键）；二是 LSE 基数问题从 backend 内注册表方案演化到采纳 #34240 merge-site 约定的过程，展示了跨 PR 设计协同的正确姿势；三是 `_apply_dcp_cuda_graph_metadata` 三分支对 global / local 长度视图的维护，是 CUDA graph 捕获路径下容易出错但必须一致的典型样例。

放宽 FLA/MoE 共享内核 shape 上限，grid 拆分避免超限

值得精读，尤其适合 kernel 开发者与多模态/新模型 day0 支持方向的工程师。三个值得借鉴的设计决策：一是把「易超限的折叠轴拆到独立 grid 轴」作为通用模式，可平移到其他 Triton kernel；二是从 `stride(0)` 而不是 `shape[1]` 推导 per-request 缓存步数，以适配 adaptive speculative decoding 下运行时形状变化，这是一个容易被忽略的正确性细节；三是多 block-per-row 拆分隐藏维度的做法，解除了 `out_dim <= 1024 * kVecSize` 的隐性限制。合入前建议确认 CI 失败原因，并在 main 分支补齐新模型大 shape 场景的显式验证。

FlashInfer CuTe DSL 新增 NVFP4 W4A16 模式，激活保持 BF16

值得精读，尤其关注以下设计决策：`quant_mode` 作为贯穿 dense/MoE/dispatcher/模型守卫的统一决议值如何避免分叉；`copy_or_rebind_param` 在 CUDA graph 与 disk reload 场景下保持 tensor 绑定的手法；W4A16 下对 FlashInfer A2A 强制 BF16 dispatch 而非引入第二套 workspace 的取舍。本 PR 的测试组织（online 精度 + reload 确定性 + lm head 守卫）也值得作为量化后端集成的参考样例。

Qwen-Image 残差归一化与 NVFP4 量化融合，端到端提速约 1.2%

值得精读。重点关注四个设计决策：(1) 用生产量化 helper（TensorRT-LLM 的 `cvt_warp_fp16_to_fp4` / `get_sf_out_offset_128x4`）保证字节一致性而非自研打包；(2) 独立 JIT 模块隔离 FlashInfer 内部头依赖，避免污染既有 BF16 norm kernel 的构建；(3) 完整 gate 矩阵与三个环境变量逃生舱，保障与生产量化器语义对齐；(4) 从 kernel launch 计数到 PNG SHA256 的多层验证方法论。若团队后续推进 Blackwell diffusion 模型的 kernel 融合，本 PR 是理想范本。评分：整体重要度 6（有意义的性能优化，但影响面窄、增益温和），洞察价值 6（依赖隔离与字节一致性设计值得借鉴）。

FLUX.2 门控残差归一化融合为单 CUDA 内核，去噪步长提速约 0.78%

值得精读。三个设计决策值得学习：(1) 跨 block 延迟物化——把 FFN 残差更新推迟到下一个 LayerNorm，用

Qwen-Image FP8 QKV 融合，端到端提速约 21%

值得精读。核心看点是：1）"先原型、被质量门禁否决、再保精度实现"的迭代路径，说明性能优化必须以输出质量为准入条件；2）CUTLASS per-output-channel scale 作为同时满足精度与速度的方案，比统一 requantize 更优；3）`try_fused_qwen_qkv_epilogue` 的守卫 + 静默回退设计，让所有 unsupported 场景行为零变化，是 kernel 融合的稳健范式；4）零拷贝 strided view 直接喂给 JIT kernel，避免了 6 次 contiguous 拷贝。建议对照 `test_qwen_qkv_epilogue.py` 的 bit-exact 测试理解内核契约。

升级 sgl-deep-gemm 至 0.1.7，MegaMoE 改用 mma_type API 支持 MXFP4

值得精读，尤其是两个设计点：一是对称 buffer 缓存 key 纳入 mma_type 的隔离思路，避免了跨类型 buffer 串用的隐性 bug；二是 _interleave_mega_moe_gate_up 同时支持 gran=8 连续交错与 gran=16 even/odd 交错两种布局，展示了如何在同一函数内兼容不同上游内核的权重排布。对依赖升级类 PR，这种“版本钉版 + 调用点迁移 + 行为回归测试”的配套做法也值得借鉴。