Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

intel 相关 PR

2026-09-01
基础设施 重要性 7.08 洞察度 5.00

XPU 夜间测试新增 per-model 指标 JSONL 记录与健康看板

值得精读。核心看点:① opt-in 零影响设计——env var 默认 None、全仓库无调用方,配合 append-only 与吞错,把“记录”与“决策”彻底分离,这是 CI 可观测性改造的安全姿势;② 双级记录(model 级 rich records + file 级 fallback)与 `test_file` 去重机制,兼顾数据丰富度与覆盖率;③ workflow 中直接内嵌 Python 渲染 dashboard 的做法,优点是单文件自包含,缺点是难测试。如果想复刻该模式,建议至少补一条 jsonl schema 的自动化测试,并统一 env var 的访问方式(全部走 `Envs` descriptor)。

2026-08-31
测试 重要性 4.64 洞察度 3.00

将四个 XPU prefill-only 测试迁至夜间网格并去掉显存门槛

不推荐精读,这是一次标准的 CI 网格分层调整,但有两个值得留意的实践:一是把"显存门槛"与"运行器规格"绑定而不是绑定到测试本身,迁移套件时门槛随之失效;二是用 `nightly=True` 显式区分触发频率,避免后续维护者误以为用例仍在 PR gate 上。对负责 XPU/Intel CI 的工程师可快速浏览。

缺陷修复 重要性 7.32 洞察度 5.00

修复 GPT-NeoX 回退加载与 DeepSeek-VL2 V-cache 三个问题

值得精读。规模虽小,但三个修复都展示了“从 checkpoint 序列化来源与加载器构造对象的不匹配反推根因”的分析方法,尤其 v_head_dim=0 哨兵的识别对理解 SGLang 非 MLA 与 MLA 双路径的 KV 池 sizing 很有帮助。值得关注的设计决策:用显式 is None or == 0 而非 not 的写法;测试先证伪再证真(每个用例都验证了修复前失败)。对维护 Transformers 回退加载或 KV 池尺寸推导的工程师有直接参考价值。

基础设施 重要性 3.03 洞察度 3.00

为 XPU Docker 镜像预装 Rust 工具链与 protobuf 编译器

值得快速浏览(diff 很小)。关注点有两个:一是 XPU CI 通过预构建镜像预装工具链、与后续变更解耦的策略,可作为"为依赖工具链的 PR 准备 CI 镜像"的典型先例;二是 rustup 未锁版本的问题,建议维护者评估是否需要固定工具链版本以保障构建可复现性。

缺陷修复 重要性 5.38 洞察度 4.00

修复 Qwen3.5 CPU GPTQ INT4 权重缺失

值得快速阅读:改动虽小,但揭示了 PyTorch 量化模块与 nn.Module.__getattr__ 的隐蔽交互,是“惰性求值中避免属性递归”的典型范例。关注点:(1) LazyValue 惰性判定与 and 短路的配合;(2) 直接检查 _parameters 以绕过属性兜底的写法及其代价(依赖内部契约)。建议后续为 CPU + GPTQ INT4 场景补充单元测试,防止该路径再次回归。

2026-08-28

#35677 fix(cpu): skip GPU JIT MoE top-k on CPU

原始 PR · 作者 xinguozhu-2026 · 合并时间 2026-08-28 17:31

缺陷修复 重要性 5.44 洞察度 4.00

CPU 跳过 GPU JIT MoE top-k,修复 CPU MoE 推理崩溃

值得快速阅读:这是一个典型「后端误入 GPU-only 路径」的最小修复范本,改动仅 6 行,评审讨论体现了支持边界的取舍。建议 CPU 维护者关注 review 中关于非 AMX CPU 支持范围的决策,并后续补充自动化测试与非 AMX CPU 性能评估。

2026-08-27
基础设施 重要性 6.47 洞察度 5.00

XPU CI 新增 multimodal_gen 触发与 24 GiB 适配扩散套件

值得精读,重点看 gpu_cases.py 中"平台能力差异驱动的测试分层":如何按显存预算从共享用例池中裁剪平台子集、如何用 `_select_xpu_cases` 避免用例定义漂移、为何必须原地 mutate `ONE_GPU_CASES` 才能让 pytest 参数化生效。对 CI 维护者而言,路径过滤器与 pr-gate 的 `changes_exist` 兜底设计、perf baseline 播种流程都可直接借鉴。若关注 XPU 扩散推理,denoising.py 的 None vs [] 修复也是 diffusers 集成的一个典型坑。

基础设施 重要性 4.68 洞察度 5.00

修复 XEON CI 失败:SPR 容器重构、缓存挂载、AMX 参数调整

值得 CI/基础设施维护者精读。重点学习:如何根据 sglang 的内存预留机制(psutil 读宿主内存、cgroup 不生效)推导出容器编排方案;以及 review 如何通过 "hiding the real dependency" 的判断把一次不正确的测试补丁拦截下来并最终回退。对 DeepSeek V4 共享专家融合逻辑感兴趣的人,可关注 get_parallel().override(moe_ep_size=1) 这个测试辅助模式的用法。