vllm-project/vllm

Mooncake Store 消费者新增 decode KV 卸载能力

值得精读。重点关注 4 个设计决策：（1）用 `store_job_id` 账本替代按 req_id 计数，抵御 preemption 与请求 ID 复用带来的状态污染；（2）KV event 的 parent 关系从 request hash 链推导，而非依赖 Store 返回顺序；（3）增量 token 快照加按功能开关裁剪元数据，避免长请求全量拷贝；（4）异步 store 生命周期下“调度器只持有 token 后缀、GPU block 由 worker 报告完成才释放”的 pin 语义。

修复 gumbel_sample 缓存列 stride 错误，避免错位写入

此 PR 值得精读，它展示了一个典型的 stride 计算 bug 的修复过程，并且测试用例设计良好，覆盖了跨步写入隔离和边界拒绝场景。对于理解 Triton kernel 中张量步长处理很有参考价值。建议关注后续是否有更多针对 gumbel_sample 的优化。

重命名 KV offload 指标 block 为 chunk

该 PR 值得快速合并，因为它解决了发布前的命名一致性问题。虽然实现简单，但体现了及时处理发布候选问题的好习惯。

修复 DeepEP v2 下 TRTLLM BF16 的 top_k 错位崩溃

值得快速精读：核心修复只有一行，但它点出了一个重要的数据契约问题——同一 topk_ids 在不同调度路径（eager/cudagraph、DeepEP v2 expanded/普通展开）下形状语义不同，kernel 参数必须跟随实际数据布局而非模型配置。测试重构（`_make_experts` 参数化多后端）也值得借鉴，可作为 MoE kernel 测试的统一模式。

ROCm 基础镜像升级 Triton 3.7 修复回归并锁定 pybind11

值得阅读，因为它是基础设施层面的关键变更，展示了版本锁定与临时修复的典型做法。可关注其与 #50605 的关联，以及后续 pybind11 解锁和 Triton 3.8 升级的演进。

修复并扩展 PR/Issue 自动打标签规则，新增防回归校验

值得精读，尤其是仓库维护者和 CI 负责人。本 PR 是“自动化配置治理”的范例：用数据（PR/Issue 数量统计）驱动规则审计，用可执行校验（check_label_rules.py）封堵静默失效，并在 review 中展示了对“标签语义准确性”（new-model 改为 added-files）与“维护者可扩展性”（labels.md 的三要素）的双重考量。重点学习点：(1) `files=` 与 `files~=` 的语义差异及锚定写法；(2) 用 `added-files` 表达“新增”语义而非“触碰”语义；(3) 用 pre-commit 对 YAML 配置做活校验——这是防止配置腐化的通用思路。对于一线工程师，该 PR 不涉及推理代码，可按需浏览。

为 benchmark_moe.py 新增 Kimi K3 MoE 参数解析分支

值得快速阅读并纳入 benchmark 工具链。虽然改动很小，但展示了多模态模型 MoE config 解析的两个易踩坑点：参数嵌套在 `text_config` 中、top-k 字段命名差异（`num_experts_per_token` vs `num_experts_per_tok`）。建议后续为 `get_model_params()` 补充针对不同架构 config 的单元测试，固化字段名映射，防止未来架构新增时再次回退崩溃。

Marlin 支持 CT block FP8 的 scale 命名兼容

值得精读。这是一个典型的数据契约兼容修复，展示了如何在共享内核抽象上兼容不同量化框架的 scale 命名差异。重点关注 `_block_scale_name` 的探测逻辑、`process_weights_after_loading` 与原属性名写回的配合，以及测试参数化如何覆盖 auto 与强制 Marlin 两条路径；同时可结合 #52182 与 #52908 理解前向修复与回退方案之间的取舍。