vllm-project/vllm

为 SM12x GPU 集成 FlashInfer b12x MoE 和 FP4 GEMM 后端

值得精读：该 PR 展示了如何将第三方自定义 kernel 后端集成到 vLLM 现有的量化 MoE 和 Linear 架构中，特别是 `process_weights_after_loading` 中的 scale 融合技巧。review 讨论中关于设计权衡 — 独立 backend 与复用 — 的对话也值得参考。

降低 hybrid SSM PD 精度测试阈值以容忍内核变更导致的抖动

I 建议合入以解锁 CI，但同时需要创建 issue 跟踪 `chunk_scan` 与 `selective_state_update` 内核的数值差异修复，并在修复后及时回调精度阈值。

在 OpenAI 端点中添加 routed_experts 字段

值得关注的设计决策包括：使用 .npy + base64 作为序列化方案（相比 JSON 数组更紧凑），以及在协议模型中为字段添加详尽文档说明形状和空值条件。

修复对称内存大小边界误回退，新增后端日志

值得阅读，尤其是涉及分布式通信后端选择逻辑的开发者。该 PR 展示了如何通过启动日志提升复杂组件可观测性，并修复了一个边界 bug。

复用共享工具重构 DeepSeekV32 参数转换

值得精读。本 PR 展示了如何通过提取共享工具函数消除重复代码并修复 bug，尤其关注 `coerce_to_schema_type` 函数的设计与 `extract_types_from_schema` 对多类型 schema 的处理。

修复 SM12.1 FP8 CUTLASS 内核崩溃

值得合并的小型修复，展示了正确的架构守卫模式。

修复结构化标签与推测解码导致的不受限生成

建议精读此 PR，尤其是 `should_advance` 方法中的条件判断逻辑，以及注释中对于为什么结构性标签是唯一安全例外的解释。这是一个典型的边界条件修复，展示了多特性交互时可能出现的微妙问题。同时建议关注后续的 JSON/regex 类似问题的修复。

移除压缩张量量化中的稀疏性死代码并添加弃用警告

值得合并，因为它清除了长期废弃的代码路径。但应确认 DeprecationWarning 是否真为警告（当前使用 raise 可能导致异常），建议改为 warnings.warn。