Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

mla 相关 PR

2026-05-27
功能 重要性 8.28 洞察度 6.00

新增 MLA prefill 后端可插拔注册机制

建议研究与 MLA 预填充后端开发的团队成员精读此 PR,特别是 `register_mla_prefill_backend` 的设计(装饰器+直接注册双模式)和 `CUSTOM` 占位符的处理方式。该设计是可扩展架构的良好范例。