vllm-project/vllm

修复 MiMo-V2.5 等模板通过宏参数传递 content 时，内容格式检测错误为 string 的问题。

本 PR 是一个高质量的 bugfix，值得精读。核心修复逻辑（AST 分析追踪宏参数）设计巧妙，保持了良好的向后兼容性。建议关注以下几点：1) `_iter_nodes_assign_content_item` 函数中新增的宏参数绑定分析逻辑；2) 如何通过 `id(loop_ast)` 建立宏参数与循环的映射关系；3) 测试用例的设计，特别是如何使用参数化测试覆盖多种模板模式。对于维护聊天模板格式检测逻辑的工程师，此 PR 提供了处理宏传递内容的解决方案模式。

修复 MergedColumn 测试在 ROCm 平台因调用平台特定 GEMM 导致的失败

该 PR 值得精读，特别是对关注测试平台独立性和 GEMM 调度机制的工程师。它展示了一个常见的测试问题：当测试依赖平台特定后端时，可能在不同硬件上失败。修复方案简洁有效，通过 monkeypatch 实现了测试的平台无关性。建议关注 `UnquantizedLinearMethod` 中 GEMM 绑定的机制，以及 `default_unquantized_gemm` 如何作为平台无关的回退实现。

修复流水线并行草稿广播中 idx_mapping 张量未记录流导致的 CUDA 内存提前释放问题。

**强烈建议精读此 PR**。尽管代码变更微小（+3/-1），但其揭示的问题具有深度和普遍性：异步 CUDA 流间的内存生命周期管理。PR 的描述堪称典范，详细解释了根因、触发条件、修复原理和验证方法。审阅者对冗余代码的精简也体现了对底层机制的深刻理解。此修复是理解和避免类似 CUDA 内存管理陷阱的优秀案例。

调整 MI355 语言模型 CI 作业超时时间，修复测试被 Buildkite 提前中断的问题。

这是一个低复杂度、高实用性的 CI 维护 PR。它修复了一个导致测试不完整的实际问题，确保了 CI 流水线的稳定性。由于变更简单明了且动机清晰，通常不需要精读。值得关注的是其作为 CI 配置调优和维护的范例，特别是考虑到之前对超时时间的激进调整（从 180 分钟降到 40 分钟）导致了问题。

修复 MoE 层测试中 FP8 数据类型在 ROCm 平台不兼容的问题。

这是一个小而重要的平台兼容性修复。虽然变更范围小，但它解决了一个导致 CI 在特定平台失败的实际问题，并采用了推荐的最佳实践（使用平台抽象而非硬编码）。对于负责维护测试、关注多平台支持或处理 ROCm 相关问题的工程师，值得精读。其核心决策——使用 `current_platform.fp8_dtype()` 和 `is_fp8()` 替代硬编码——是一个值得在其他测试代码中推广的模式。

修复 LoRA 适配器激活时未应用权重却静默成功的问题，增加调试级日志提示。

这个 PR 值得精读，因为它展示了在复杂分布式系统中修复静默失败问题的良好实践。核心决策——在激活点添加观察而非在加载点添加严格验证——体现了对系统多执行上下文（如并行）的深刻理解。建议关注 `debug_once` 的使用及其与现有日志策略的一致性。这是一个设计良好、风险可控的 bugfix。

归一化下沉视觉塔，修复编码器 CUDA Graph 下图像嵌入错乱

值得精读。关键看点有三个：一是「归一化所有权从外层下沉到视觉塔」这一结构性决策，以及它如何一次性覆盖 eager / encoder cudagraph / DP 三条路径；二是 coderabbitai 与 cjackal 关于 dtype 预 cast 是否损失精度的争论，说明 `FusedInputNorm` 的 uint8 输入契约是这套设计的前提；三是评论区揭示的未解性能代价（归一化被捕获进 CG、padding 行被重复计算、每 replay 一次 D2D cast），阅读时应把它当作后续 #56711 / #56798 的背景。建议顺手检查其他启用了 `mm_device_do_normalize` 的 VL 模型是否也把 `self.input_norm` 留在了外层，并考虑补一个带 `cudagraph_mm_encoder` 的回归用例。

为 NVFP4 量化的 DSpark 草稿模型添加融合 gathered top-k 投影 Triton 内核，使量化后的 Markov 头能直接索引加权，避免全词表反量化。

本 PR 是一个针对特定模型（Nemotron 3.5 Lightning NVFP4 DSpark）的关键功能补全，实现了量化权重的高效 gathered projection。核心 Triton 内核设计精巧（gather → decode → scale → dot → scatter 全融合），测试覆盖充分（数值一致性、平台回退、错误检测、CUDA Graph）。建议精读以下内容：(1) `_nvfp4_gathered_bias_kernel` 的 Triton 实现，理解 packed NVFP4 的字节级解码和 block-wise 反量化策略；(2) `modelopt.py` 中权重保留逻辑与 `qwen3_dspark.py` 分派逻辑的配合方式；(3) CodeRabbit 讨论中发现的 assert→ValueError、values clone、CPU is_cuda 检查等三个正确性修复。