Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

new-model 相关 PR

2026-09-04

#53906 [Model] add GLM-5.3-Flash support

原始 PR · 作者 ZJY0516 · 合并时间 2026-09-04 00:40

功能 重要性 9.48 洞察度 8.00

为 GLM-5.3-Flash 模型添加完整的 vLLM 支持,包括 MLA/KDA 注意力、kpool 稀疏索引、MTP 推测解码和多模态处理。

此 PR 实现了一个极其复杂的混合模型支持,展现了重大的工程努力。然而,它也因社区的大量现场报告而暴露出显著的质量和兼容性问题。**建议精读**以理解其架构设计(kpool 稀疏索引、混合分组),但**在合并前必须确保核心的正确性和稳定性问题得到解决**,特别是 kpool 索引器的静默损坏问题和主要平台(Blackwell, ROCm)的启动崩溃。应优先合并已识别的修复 PR(如 #10, #7)到此分支,并验证前缀缓存和 Mooncake 连接器的集成。