功能
重要性 9.48
洞察度 8.00
为 GLM-5.3-Flash 模型添加完整的 vLLM 支持,包括 MLA/KDA 注意力、kpool 稀疏索引、MTP 推测解码和多模态处理。
此 PR 实现了一个极其复杂的混合模型支持,展现了重大的工程努力。然而,它也因社区的大量现场报告而暴露出显著的质量和兼容性问题。**建议精读**以理解其架构设计(kpool 稀疏索引、混合分组),但**在合并前必须确保核心的正确性和稳定性问题得到解决**,特别是 kpool 索引器的静默损坏问题和主要平台(Blackwell, ROCm)的启动崩溃。应优先合并已识别的修复 PR(如 #10, #7)到此分支,并验证前缀缓存和 Mooncake 连接器的集成。