vllm-project/vllm

修复投机解码中填充占位符-1到达embedding层导致CUDA断言失败

值得精读：修复简洁但典型，展示了在托管张量边界层做防御性处理的模式。设计权衡（在 scheduler 清 0 还是 embedding 前 clamp）最终选择 clamp 以最小化改动，是低侵入修复的范例。

修复 Cohere ASR 基准测试空 decoder prompt bug

建议后续改进：1) 使用 MRO 检查替代类名字符串比较，增强鲁棒性。2) 考虑将 decoder prompt 逻辑抽取为 tokenizer 的接口方法，避免在 benchmark 代码中硬编码。

实现 DeepSeek-V4 / Qwen3 DSpark 半自回归推测解码

值得精读。设计巧妙：利用现有稀疏 MLA 索引实现非因果注意力，避免重写内核；CUDA Graphs 完整捕获整个 draft 步骤；测试覆盖齐全。关键决策点：锚点作为第一个预测、马尔可夫头低秩设计、indexer 线程阈值的 2x 乘数。建议重点关注 `DSparkSpeculator._sample_sequential` 和 `sparse_swa.py` 中的非因果索引构建逻辑。

修复 GraniteMoeShared 权重加载路径错误

该 PR 值得合并，修复精确且影响面小。建议开发者在未来类似重构中更关注子类覆盖的协议一致性，并考虑增加回归测试。

拆分engine core DTO到独立模块

建议阅读：该 PR 展示了如何随 DTO 集合增长进行模块拆分，对关注 Rust 前端架构演进者有价值。普通开发者只需了解新导入路径即可。

修复 XPU LoRA 多项对齐 bug

此 PR 展示了如何将 XPU 后端 LoRA 算子与 CUDA 后端对齐并利用 PyTorch 自定义算子机制，值得 LoRA 模块维护者精读。_apply_expand 的 rank 截断逻辑和 add_inputs 透传是常见兼容性模式，可供其他后端参考。

修复 tracing 测试在不同平台上的段错误

简单安全的 bugfix，建议合并。无需深入审查，但值得存档作为 gRPC fork 安全问题的参考。

迁移 GPTBigCode 和 Starcoder2 至 Transformers 后端

建议关注此 PR 的团队阅读 registry.py 的变更和提交历史，了解模型迁移到 Transformers 后端的通用策略和潜在陷阱（如 Conv1D、tp_plan）。此 PR 是 vLLM 逐步淘汰自定义模型实现的典型案例，值得参考，但使用者需验证 TP/PP 场景的兼容性。