执行摘要

• 一句话：ShortConv 改用 PluggableLayer 基类
• 推荐动作：值得快速浏览以了解 CustomOp 到 PluggableLayer 的迁移模式（导入、装饰器、基类三处联动，注册名保持不变），但不必精读：改动面极小且无测试/文档配套。关注点应放在 PluggableLayer 与 CustomOp 的语义等价性上，后续其他算子做同样迁移时可复用本 PR 作为基准。

功能与动机

PR body 表明这是 #43556 的后续，属于 "Mamba attention 模块重构" 的最终一环，目标是将 Mamba 算子从 CustomOp 迁移到 PluggableLayer 抽象。作者 wangxiyuan 在评论区说明："Since plamo2 has been removed from vllm, this PR only has one thing to do now."，即 plamo2 移除后，本 PR 范围收敛为 ShortConv 的基类切换。

实现拆解

1. 定位变更入口：vllm/model_executor/layers/mamba/short_conv.py 是本次唯一改动文件，该文件定义 Mamba 模型的 ShortConv 层（输入门控卷积），是 Mamba attention 后端的关键算子层。
2. 导入调整：将 from vllm.model_executor.custom_op import CustomOp 替换为 from vllm.model_executor.custom_op import PluggableLayer。
3. 类声明调整：装饰器与基类同步替换，即 @PluggableLayer.register("short_conv") 与 class ShortConv(MambaBase, PluggableLayer)。注册名 "short_conv" 保持不变，确保外部按名查找或替换算子不受影响。
4. 配套与验证：无测试文件与配置改动；CI 由 Buildkite #82824 触发执行。整体是机械式基类替换，行为等价性依赖既有模型测试覆盖。

关键文件：

• vllm/model_executor/layers/mamba/short_conv.py（模块 Mamba层；类别 source；类型 data-contract；符号 ShortConv）: 唯一改动文件，完成 ShortConv 从 CustomOp 到 PluggableLayer 的基类迁移，是 Mamba attention 模块重构的收尾动作。

关键符号：ShortConv

关键源码片段

vllm/model_executor/layers/mamba/short_conv.py

唯一改动文件，完成 ShortConv 从 CustomOp 到 PluggableLayer 的基类迁移，是 Mamba attention 模块重构的收尾动作。

# SPDX-License-Identifier: Apache-2.0
# SPDX-FileCopyrightText: Copyright contributors to the vLLM project
​
# 关键变更点 1：导入 CustomOp 改为导入 PluggableLayer。
from vllm.model_executor.custom_op import PluggableLayer
​
# 关键变更点 2：装饰器与基类对齐迁移到 PluggableLayer，
# 注册名 "short_conv" 保持不变，外部按名查找算子不受影响。
@PluggableLayer.register("short_conv")
class ShortConv(MambaBase, PluggableLayer):
​
    def __init__(
        self,
        config,
        dim: int,
        layer_idx: int,
        model_config: ModelConfig | None = None,
        cache_config: CacheConfig | None = None,
        quant_config: QuantizationConfig | None = None,
        prefix: str = "",
    ):
        super().__init__()
        self.config = config
        self.layer_idx = layer_idx
        self.conv_dim = dim
        self.L_cache = config.conv_L_cache
        self.bias = config.conv_bias
​
        # conv1d 权重复用 ColumnParallelLinear 的存储布局，
        # 加载后 unsqueeze 成卷积核形状，这里不能放进 weight_loader
        # （ColumnParallelLinear 已定义 weight_loader 且不允许覆盖）。
        self.conv = ColumnParallelLinear(
            input_size=self.L_cache,
            output_size=dim,
            bias=self.bias,
            prefix=f"{prefix}.conv1d",
        )
        self.conv.weight.data = self.conv.weight.data.unsqueeze(1)

评论区精华

review 评论为空，核心讨论集中在 issue 评论区：mergify 多次报告 merge conflict 并提示 rebase，pre-commit 检查两次失败并给出修复命令；wangxiyuan 主动澄清 plamo2 移除后范围仅剩 ShortConv 迁移；claude[bot] 提示 fork PR 不自动 review。最终由 ZJY0516 合并 main 解决冲突并触发 Buildkite CI #82824。

• 多次合并冲突与 rebase 要求 (other): 最终由 ZJY0516 执行 merge main 到 mamba_refactor_3 分支解决冲突，随后进入可合并状态。
• pre-commit 检查失败 (style): 作者按提示运行 pre-commit 修复并提交后通过。
• plamo2 移除后 PR 范围澄清 (other): 评审按此范围进行，后续无其他质疑。

风险与影响

• 风险：基类契约差异：CustomOp 与 PluggableLayer 在注册、编译和 fallback 机制上可能存在差异，若 PluggableLayer 的 dispatch 路径与 V0/V1 的 attention 后端不兼容，可能影响 ShortConv 运行路径；但注册名与类名均未变，概率低。缺少测试覆盖：本次无新增测试，行为回归依赖既有 Mamba 模型测试，针对 PluggableLayer 基类自身的注册与替换语义无直接断言。合并过程波折：历经多次 merge conflict 与 pre-commit 失败，最终通过 merge main 解决，提交历史仅 2 个 commit，状态干净。
• 影响：影响所有经由 ShortConv 的 Mamba/SSM 类模型（如 Mamba、Jamba、Kimi 系列），但由于是透明基类替换且注册名不变，预期无用户可见行为变化。对团队而言，本 PR 是 CustomOp 向 PluggableLayer 迁移的又一落地案例，有助于后续算子层的可插拔化演进。
• 风险标记：基类契约迁移, 缺少测试覆盖, 合并冲突历史

关联脉络

• PR #51253 [ROCm][Perf] Kimi-K3 Shard Latent MoE up-projection for ROCm path: 同属 Mamba/SSM 与 Kimi 模型支持线，本 PR 后台标签含 kimi，且依赖同一 Mamba 算子层模块。
• PR #51100 [Bugfix] Fix Mamba all-mode CPU offload boundary alignment: 同为 Mamba 模块的配套修复，围绕 Mamba 状态与 ShortConv 相关路径。
• PR #50007 [ROCm] Add tuned selective_state_update float32 config for AMD Instinct MI325X: 同处 Mamba 算子层，显示 vLLM 对 Mamba 模块的持续调优与重构并行推进。