vllm-project/vllm

NVFP4 输出 dtype 对齐模型配置，修复 LoRA dtype 断言崩溃

此 PR 值得快速了解，尤其是关注 NVFP4/ModelOpt 量化路径的工程师。改动虽小，但体现了 vLLM 中“量化层输出 dtype 必须对齐模型配置 dtype”的约定，以及 `get_current_vllm_config().model_config.dtype` 作为统一 dtype 来源的设计模式。建议同时查看关联 Issue #48862 以掌握完整的 NVFP4 + LoRA 兼容性状态。

新增一级 session_id，双栈贯穿请求链路至引擎核心

值得精读，尤其是 Rust 侧 `resolve_session_id` 的优先级设计与 `EngineCoreRequest` 作为 array-like msgpack 结构演进时必须"追加末尾"的 wire 约束。对后续 session-aware 调度 / KV 策略 PR 有前置理解价值。建议合入后人工核对 Python 与 Rust 两侧 `EngineCoreRequest` 字段顺序是否一致，并关注是否补跨语言端到端测试。

修复 MRV2 PP 下 Mamba 标量状态更新的 int32 索引崩溃

值得精读。本 PR 展示了如何用 Triton kernel 绕开 PyTorch op 对索引 dtype 的硬约束，并顺手处理负哨兵条目，是设备端状态更新的一种干净模式；对 MRV2、pipeline-parallel 和混合模型开发者有直接参考价值。

GFX120x 启用 AITER 与 FP8 快速路径，MI3xx 行为保持不变

值得精读。重点学习三点：(1) 用「gfx9 CK 伞」与「gfx12 Triton 伞」分离 AITER 能力探测的手法，避免把不存在的内核暴露给新架构；(2) `can_implement()` 在 classmethod 阶段用 tuned 列表做 shape 校验，从而把调度决策前移的设计；(3) tuned shape 集合按架构拆分、避免交叉污染的做法。另建议 follow-up 补充针对 `on_rdna4()` 与 tuned shape 的自动化测试。

恢复 MRV2 多模态 draft 能力检测

值得精读。该 PR 展示了如何用『显式协议 + `TypeIs` 类型守卫』替代运行时试调用探测，把跨模块能力判定收敛到基类 `load_model()`，并借机删除了 Inkling hack；review 中关于反射 vs 显式声明的讨论（NickLucche、DarkLight1337、TQCB、njhill）有实际工程借鉴价值。建议 MRV2 / spec decode 维护者重点 review：1) `supports_mm_inputs` 判定口径的统一；2) Eagle3 等未标记模型的边界行为；3) 后续新增 draft 模型时协议声明的约束。

MRV2 启用专家路由捕获，统一 MRV1 快照逻辑

值得精读。一是看 njhill 主导的"把 RE 专属逻辑封装进 `RoutedExpertsCapturer` 内部"的重构，这是组件边界划分的范例；二是 `get_routed_experts` 的 clone 语义与 `AsyncOutput` 生命周期设计，直接决定异步路径正确性；三是 fail-closed 的 `get_routed_experts_attn_gid` 和越界 `IndexError` 体现了"宁可报错也不静默丢数据"的工程取向。

修复 AITER MXFP4 oracle 测试配置与就地修改问题

该 PR 属于测试契约修正，值得快速浏览以理解两个教训：一是测试配置必须与上游转换器/内核的实际契约对齐，二是当被测试代码会就地修改输入张量时，参考计算应先克隆原始数据。实现本身简单，不需要精读。

拒绝空 gRPC stop 字符串，修复解码器 panic 致进程中止

值得精读。核心看点：njhill 关于“第三份拷贝”的评论揭示了校验逻辑分散的坏味道，最终采用“共享校验点 + 底层防御”的分层设计，既保证入口统一又不依赖每个调用方自觉。对于处理外部输入的服务端组件，这种同时在上层校验和底层防 panic 的思路值得借鉴。