执行摘要
本PR在服务器启动参数检查中新增验证逻辑，确保启用HiSparse时KV缓存数据类型必须为bfloat16，避免因默认设置（如NVFP4模型使用FP8）导致的运行时兼容性问题。该变更通过快速失败机制提升系统健壮性，但要求用户显式设置正确参数。
功能与动机
HiSparse功能需要bfloat16 KV缓存才能正常工作，但某些模型（如NVFP4）默认使用FP8缓存，可能导致隐蔽的运行时错误。PR描述明确指出：“Add validation to fail fast when HiSparse is enabled with non-bfloat16 KV cache”，旨在通过启动时验证提前发现问题，提升系统可靠性。
实现拆解
仅修改一个文件：python/sglang/srt/server_args.py，在check_server_args方法中添加条件检查：
if self.kv_cache_dtype != "bfloat16":
raise ValueError(
f"HiSparse requires bfloat16 KV cache, but got --kv-cache-dtype={self.kv_cache_dtype}. "
f"Please use --kv-cache-dtype=bfloat16."
)
该代码位于现有参数验证逻辑中，当HiSparse启用且KV缓存数据类型非bfloat16时抛出错误。
评论区精华
review中唯一实质性讨论来自gemini-code-assist[bot]：
“当kv_cache_dtype为auto（默认值）时，自动设置为bfloat16而非直接报错，可以提升用户体验。”
但此建议未被采纳，最终实现选择严格验证策略，要求用户必须显式设置--kv-cache-dtype=bfloat16。这体现了设计权衡：优先保证数据类型明确性而非便利性。
风险与影响
- 风险：严格验证可能导致依赖
auto默认行为的用户启动失败，需额外注意参数配置。
- 影响：仅影响启用HiSparse的场景，对大多数用户无影响；但NVFP4等默认使用非bfloat16缓存的模型需调整启动参数。
- 测试覆盖：PR未添加新测试，依赖现有CI（如
test_dsa_models_hisparse.py）验证功能。
关联脉络
- 与PR #22155和#22187同属HiSparse功能演进线，分别关注CI测试和性能基准，本PR补充了数据类型验证，共同完善HiSparse生态。
- 近期历史PR中多次出现
run-ci标签，表明仓库持续优化测试和验证流程，本PR符合这一趋势。
参与讨论