vllm-project/vllm

修复 encoder-decoder 模型预热时 cross-attn 零 key 问题

值得精读，特别是理解 encoder-decoder 模型在预热中的特殊处理方式。设计简洁，对理解 vLLM 的 warmup 机制和 cross-attention 集成有参考价值。

修复 MoRIIO 代理 Content-Type 缺失

该 PR 为一次简单但必要的 bugfix，建议快速合并。虽然改动很小，但解决了客户端兼容性的根本问题，值得阅读以了解 Quart 代理的常见陷阱。

修复投机解码中填充占位符-1到达embedding层导致CUDA断言失败

值得精读：修复简洁但典型，展示了在托管张量边界层做防御性处理的模式。设计权衡（在 scheduler 清 0 还是 embedding 前 clamp）最终选择 clamp 以最小化改动，是低侵入修复的范例。

修复 Cohere ASR 基准测试空 decoder prompt bug

建议后续改进：1) 使用 MRO 检查替代类名字符串比较，增强鲁棒性。2) 考虑将 decoder prompt 逻辑抽取为 tokenizer 的接口方法，避免在 benchmark 代码中硬编码。

实现 DeepSeek-V4 / Qwen3 DSpark 半自回归推测解码

值得精读。设计巧妙：利用现有稀疏 MLA 索引实现非因果注意力，避免重写内核；CUDA Graphs 完整捕获整个 draft 步骤；测试覆盖齐全。关键决策点：锚点作为第一个预测、马尔可夫头低秩设计、indexer 线程阈值的 2x 乘数。建议重点关注 `DSparkSpeculator._sample_sequential` 和 `sparse_swa.py` 中的非因果索引构建逻辑。

修复 GraniteMoeShared 权重加载路径错误

该 PR 值得合并，修复精确且影响面小。建议开发者在未来类似重构中更关注子类覆盖的协议一致性，并考虑增加回归测试。

拆分engine core DTO到独立模块

建议阅读：该 PR 展示了如何随 DTO 集合增长进行模块拆分，对关注 Rust 前端架构演进者有价值。普通开发者只需了解新导入路径即可。

修复 XPU LoRA 多项对齐 bug

此 PR 展示了如何将 XPU 后端 LoRA 算子与 CUDA 后端对齐并利用 PyTorch 自定义算子机制，值得 LoRA 模块维护者精读。_apply_expand 的 rank 截断逻辑和 add_inputs 透传是常见兼容性模式，可供其他后端参考。