2026-09-16
SHM 分配前新增 cgroup 内存预检,余量不足只告警不阻断
值得精读,但只需读三处:`vllm/utils/cpu_resource_utils.py` 的读取器拆分与 `check_cgroup_memory_available()`、`shm_broadcast.check_shm_free_space()` 的控制流改写,以及 Etelis 的实测评论。最值得借鉴的设计决策有两个:一是用「缓存静态 limit、实时读 usage」同时满足稳定性与时效性,避免了简单移除 `@cache` 带来的重复 sysfs 读取;二是在度量语义不精确(memory.current 含可回收 cache)时选择「诊断而非门禁」,用实验数据推翻了自己最初 raise 的设计。若你负责容器化部署,建议同时核对全仓是否还有按元组解包 `get_cgroup_memory_limit()` 的调用点,并评估低余量 warning 在自家负载下的噪音水平。
AMD CI 新增可选 TheRock 镜像构建路径
值得精读但优先级中等:核心价值在 `.buildkite/scripts/rocm/build-config.sh` 的“一个共享选型 + 严格校验 + 三级变量回退”设计,以及 `configure_custom_rocm_stages` 与 `init_bake_files` 中“自定义栈不污染稳定 tag / registry 缓存”的隔离策略,这是 CI 复用与实验隔离的通用范式,可直接迁移到其他硬件或镜像变体。建议后续补两块:(a) 为 `validate_rocm_dockerfile`、`using_custom_rocm_dockerfiles` 增加 shell 级单测(本 PR 已主动移除回归测试,存在回退缺口);(b) 把“自定义配方必须提供的阶段契约”写入文档或脚本头部注释,减少未来按错误配方配置 CI 的排查成本。
退役 Buf schema 发布,统一到 crates.io 分发
值得花 10 分钟快速阅读,重点看三点设计决策:
1. **先立后破的渠道迁移模式**:先在 #56365 建立 crates.io 发布并让 Rust 前端消费同一 crate,再在本 PR 退役 BSR,避免出现无发布渠道的空窗期。
2. **保留 buf build/lint 而非整体删除 workflow**:发布路径可以退,但 schema 质量门禁不能退,且移除 owner 限定后 fork 也能校验。
3. **文档对消费契约的明示**:README 直接写明 "no longer published" 并给出替代路径,比在 release note 里提一句更可靠。
该 PR 逻辑直白,不需要深挖源码,适合作为“发布基础设施收口”的参考案例。
新增 VLLM_SKIP_VERSION_SUFFIX,支持 pip 直接安装 empty 包
值得精读,尤其适合关注打包和分发链路的同学。本 PR 展示了一个简洁的设计决策:用单个全局开关控制 PEP440 版本后缀,而不是只修 empty 分支,兼顾了扩展性和向后兼容。阅读时重点留意两点:一是 VLLM_SKIP_VERSION_SUFFIX 被加入 compile_factors 忽略列表的缓存语义,二是 review 指出的 true 解析问题在合入代码中仍未修复,实际使用时建议改用 VLLM_SKIP_VERSION_SUFFIX=1,并考虑后续提交修复解析逻辑。
Rubin 依赖升级至公开版,修复 MSA 与 Quack 兼容性
该 PR 属于构建链维护而非算法演进,不必逐行精读,但建议工程负责人与做新硬件平台支持的同学阅读其 PR body——它演示了一套完整的硬件 bring-up 验证模板:依赖解析(`uv pip check`)+ 镜像构建 + 双模型 TP4 端到端 smoke + 数值内核对照 + 已知失败如实披露。值得借鉴的设计决策包括:按平台架构分 pin 以匹配 torchvision wheel 约束、用 Dockerfile 剥离 + 专用 requirements 文件双保险避免 pin 冲突、固定外部内核仓库 revision 保证可复现。x86_64 侧缺失运行时验证与 `nixl_ep` 不可用属于已知风险,后续 Rubin 常规化(#49735)时应补上。
清理 8 文件 1895 行死内核代码,覆盖 AMD 与量化算子路径
值得快速浏览,不必精读。它展示了 vLLM 中临时代码生命周期的管理实践:在 docstring 中写明删除条件(如 AITER 修复版本),到期后由维护者执行清理。对于内核与算子维护者,建议关注两个设计决策:一是 lamport.py 中基于 PDL 的死锁规避证明方法,这是跨 GPU 通信 kernel 的高价值设计文档,即使代码被删除也值得从 git 历史中学习;二是 triton_fp8_mqa_logits.py 中针对 gfx942 LDS 预算的 tile 大小自适应判断,展示了 Triton kernel 在特定硬件上做 occupancy 与硬件上限双重校验的思路。另外,本 PR 完全没有 review 讨论,阅读时建议自行核对删除边界,或在需要修改这些目录时通过 git blame 追溯删除决策。