执行摘要

• 一句话：CPU AMX GDN 强制 SSM cache 类型为 float32
• 推荐动作：值得合并，属于精准的 bugfix，逻辑清晰，无争议。建议后续补充测试覆盖 AMX 环境下 Mamba cache dtype 的自动切换行为。

功能与动机

AMX GDN 需要 float32 类型的 SSM cache，如果用户配置了其他类型（如 bf16、fp16），会导致运行时错误或精度问题。PR body 明确指出 'AMX GDN requires float32 SSM type'。

实现拆解

在 vllm/platforms/cpu.py 的 check_and_update_config 方法中，原有 Legacy 设置之前插入一段逻辑：

1. 调用 torch.cpu._is_amx_tile_supported() 检测当前 CPU 是否支持 AMX tile 指令集。
2. 如果支持且 cache_config.mamba_ssm_cache_dtype 不是 "float32"，则将其强制设为 "float32" 并记录 warning 日志。

关键文件：

• vllm/platforms/cpu.py（模块 平台层；类别 source；类型 core-logic；符号 check_and_update_config）: 核心变更文件：在 check_and_update_config 中新增 AMX 检测与 SSM dtype 自动切换逻辑。

关键符号：check_and_update_config

关键源码片段

vllm/platforms/cpu.py

核心变更文件：在 check_and_update_config 中新增 AMX 检测与 SSM dtype 自动切换逻辑。

# vllm/platforms/cpu.py (check_and_update_config 方法内 )
​
        # Lagecy setting 之前插入
        # AMX GDN 要求 Mamba SSM cache 必须为 float32，否则执行错误
        if (
            torch.cpu._is_amx_tile_supported()
            and cache_config.mamba_ssm_cache_dtype != "float32"
        ):
            cache_config.mamba_ssm_cache_dtype = "float32"
            logger.warning("Reset SSM cache type to float32 for AMX mamba attention.")
​
        # Lagecy setting
        env_key = "VLLM_CPU_KVCACHE_SPACE"
        ...

评论区精华

该 PR 没有 review 评论，只有一条来自 claude[bot] 的自动回复说明来自 fork 的 PR 禁用自动审查，以及 jikunshang 的批准。

• 暂无高价值评论线程

风险与影响

• 风险：风险较低。变更仅影响 CPU 平台且支持 AMX 的环境，对非 AMX 平台无影响。强制切换 dtype 可能覆盖用户显式配置，但已有 warning 日志告知用户。
• 影响：影响范围较小：仅影响运行在支持 AMX tile 的 CPU 上且使用 Mamba SSM 模型（如 Qwen-Next 系列）的用户。之前可能因 dtype 不匹配导致 silent correctness 问题，修复后确保正确性。
• 风险标记：隐式覆盖用户配置, 缺少测试覆盖

关联脉络

• 暂无明显关联 PR