vllm-project/vllm

引入 3FS KVConnector 支持，实现 KV 缓存跨节点高效卸载和共享。

该 PR 值得精读，特别是其异步操作管理和资源清理设计。工程师应关注 review 中修复的逻辑错误，以及元数据服务器中的分配策略，这些是分布式系统中的关键决策点。

修复MergedColumnParallelLinear中PerTensorScale参数在tuple shard_id时的加载错误，解决Qwen3.5模型FP8静态逐张量量化输出乱码问题。

该PR值得精读，因为它揭示了一个在融合线性层中处理量化scale参数的微妙bug。关注点：1. 理解MergedColumnParallelLinear如何支持tuple shard_id以处理融合投影（如Qwen3.5的in_proj_qkvz）。2. 学习PerTensorScaleParameter在量化权重加载中的角色。3. 注意bug的根因：硬编码shard_id=0忽略了tuple的语义，导致scale未正确传播。

修复KVConnectorFactory中外部连接器优先级低于内部注册表的问题，确保用户自定义模块优先加载。

该PR值得精读，虽然变更规模小，但揭示了KVConnectorFactory设计中的一个重要权衡：内部注册表与外部扩展的优先级管理。关注点：1. 设计决策：选择优先级调整而非禁止重复名称的权衡；2. 防御性编程：添加空字符串验证的细节处理；3. 实际应用场景：KuntaiDu分享的协作问题展示了该修复的实际价值。

修复Transformers v5权重加载后Jina ColBERT模型旋转嵌入inv_freq缓冲区被清空导致的NaN输出问题。

该PR值得快速浏览，了解Transformers v5权重加载机制对非持久化缓冲区的影响。关注点：1）非持久化缓冲区在权重加载中的处理变化；2）测试中模型状态恢复的模式。

修复 Transformers v5 中 Mistral YaRN 模型的警告，通过版本检查设置忽略键。

该 PR 是一个简单的 bugfix，变更直白，但展示了处理外部依赖版本兼容性的良好实践，值得快速浏览以了解版本 guard 的设计。对于维护模型配置模块的工程师，建议关注此模式。

新增 MkDocs hook 自动将文档内联代码引用链接到 API 文档页面。

建议文档维护者和基础设施工程师精读此 PR，以了解自动化文档链接的技术实现，但对一般运行时代码开发影响较小，无需重点关注。

清理KV卸载重构残留，修复过时注释并分组ARC测试函数。

对于关注vLLM KV卸载模块或代码重构历史的开发者，值得快速浏览以了解测试组织改进；无需深入精读，除非涉及ARC缓存策略的测试细节。

修复Trtllm FP8 MoE权重重排中的内存碎片化问题，避免OOM。

建议精读以理解内存碎片化问题的典型解决方案。关注 `_shuffle_deepseek_fp8_moe_weights` 函数的设计变更：预分配张量 vs 列表堆叠，这是优化内存密集型操作的常见模式。