标签列表
聚合结果
清理 Diffusion 死代码与 PipeFusion 遗留，净删 1264 行
值得精读，尤其是 `parallel_state.py` 与 `group_coordinator.py` 的合并方式：它展示了如何用通用实现替换专用实现并同时修复资源泄漏，新增的 Gloo 生命周期回归测试是验证分布式资源释放的很好模板。对于维护 diffusion 模块的工程师，建议关注 PP = 2 场景在合并后的通信行为，以及被删除环境变量是否有外部依赖。
原始 PR · 作者 Yuxingwang-intel · 合并时间 2026-09-16 10:01
为 CPU 扩散模型新增三个融合 norm / scale-shift 内核
值得精读，尤其是要在非 CUDA 平台写融合内核的工程师。重点关注四个设计决策：一是用 `DiffusionNormMode` 编译期 tag + `DiffusionNormTraits` 让 RMSNorm/LayerNorm 共享一套 row kernel，避免复制两遍几乎相同的向量循环；二是把广播语义全部推给 Python 的 `expand_scale_shift_cpu_param`，让 C++ 只面对 `stride_c ∈ {0, 1}`，这是把「组合爆炸」挡在语言边界之外的好例子；三是用「两个 gate 指针」而不是 `gate_t` 模板派发来兼容 Hunyuan（activation dtype）与 Wan（FP32）两种 gate，代价是函数多一个参数、收益是少一层 dispatch；四是刻意复刻 CUDA 的 activation-dtype 边界以保证跨设备数值一致，读代码时要留意那两处 `convert_from_float_ext` / `static_cast<scalar_t>` 往返并非冗余。读法与风险相关：`normd.cpp` 前半（dispatch 与 helper）与 `layernorm.py` 的两处 `forward_cpu` 是主干，`torch_extension_cpu.cpp` 只是样板注册可略读；建议同时留意 `custom_op.py` 中 `forward_cpu` 默认回退的语义翻转，以及测试未覆盖的非连续输入与 4D 广播分支。
NPU 文档统一改用 Ascend A2/A3 系列产品名
作为纯文档重命名 PR，不需要精读全部 diff；但维护文档 Playground 或 NPU 配方文档的同学值得关注两点：一是 _deployment.jsx 与各 Deployment 组件里 label/targetTabName 和 MDX Tab 的跨文件一致性契约，二是本文确立的 "A3 Series" 与 "Ascend A3 Series Products" 命名分层。后续 NPU 文档改动应以此 PR 为命名基线，避免再次引入 Atlas 800I/910B/910C 等旧名。
为 RTX 5090 新增独立 H3 部署配方与实测提示
值得精读。该 PR 虽然只是文档，但展示了三个可迁移的工程模式：一是为文档化配置建立可验证的定量模型（磁盘吞吐公式），二是用 hard-cap 模拟与物理实测交叉验证的基准方法论，三是"单卡/多卡分流"的部署矩阵判定函数 `consumerSingleCard`。对部署 H3 的 RTX 5090 用户，重点读 cookbook 新增的 "RTX 5090 single card, physical desktop" 一节与磁盘吞吐提示；对引擎开发者，PR body 中关于 pin budget、O_DIRECT courier 与 compute wall 的分析是理解 diffusion offload 路径的关键背景。
原始 PR · 作者 haochengxi · 合并时间 2026-09-14 11:50
重测 VDN-H3 B200 基准并更新 overlay
值得快速浏览。虽是文档 PR，但包含两类可复用信息：VDN-H3 在 B200 上的性能标尺与完整部署配方（对硬件选型与容量规划有决策价值）；overlay pin 暴露出"模型仓库文件名变更会破坏既有部署"的问题，说明 overlay 机制缺少自动化校验。对需要发布 benchmark 数据的团队，本 PR 的测量方法（布局扫描、声明波动范围、区分并行效率与内核性能、未重测即标注）值得借鉴。
CFG 并行服务器放行关闭 CFG 的请求，并修复 warning_once 格式参数崩溃
值得精读。这个 PR 的亮点不在改动规模，而在于作者对“可观察契约”的严谨处理：`stacklevel=2`、`logger.warning` 方法路由、`cache_clear` API 表面都是被测试字面断言的外部契约，稍一“简化”就会让整套 GPU CI 快速失败。它对三类读者有参考价值：维护 diffusion serving 的同学（理解 CFG 并行的单分支语义）、想改公共日志工具的同学（去重缓存与内存泄漏的权衡）、以及写分布式测试的同学（`TestCfgParallelServesOneBranch` 用 patch 在 CPU 上模拟多 rank gather 的思路）。建议重点关注 `logging_utils.py` 的注释块与 5 个 commit 的演进顺序。
修复 SP 序列收集批量时非连续分片崩溃
值得精读。这是一个小而精准的 bugfix，根因分析透彻，修复方式仅用 `.contiguous()` 两处微调就消除了默认配置下的启动崩溃，且测试设计具有示范性：用 mock all-gather 在单进程内捕获 contiguity 问题，避免了多卡测试成本。适合作为「PyTorch 张量连续性陷阱 + 集合通信」相关问题的参考案例。
阻断不可读 checkpoint 进入 native fallback，保留原始 I/O 错误
值得精读。虽然改动只有 6 行源码，但它展示了“异常路由要匹配问题语义”的设计思路：fallback 不是万能兜底，错误信息保真比二次包装更有价值。配套单测对误拦截的回归防护到位，适合作为错误诊断类修复的参考案例。