Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

debugging 相关 PR

2026-09-16
重构 重要性 9.00 洞察度 5.00

清理 SRT 大量死代码与废弃测试,净删 3159 行

值得精读,尤其适合作为“大规模死代码清理”的范例:PR body 给出了每类删除的可验证论证(调用方扫描、import 检查、动态查找、测试矩阵隔离对比),并量化了删除的测试收益与保留项。值得关注的设计决策包括:缓存键简化为 UUID 列表、用 main/PR 测试计数差精确对齐删除的测试用例、以及删除 scanner 测试但保留行为测试的“迁移后退役守卫”模式。对编译、模型加载与 HiCache 模块维护者,建议留意编译缓存键变化与三个守卫测试退役后的长期影响。

2026-09-15
重构 重要性 6.01 洞察度 4.00

为 profiler step span 加 DRAFT/VERIFY 阶段标签

值得精读,但不必投入大量时间:这是约 30 行的可观测性改进,重点看两个设计选择——一是用「worker 身份」而非「forward mode」作为标签的第一判据,二是用强制关键字参数 + 默认值实现向后兼容。若你维护 profiler、trace 解析脚本或性能报告,请顺手把 `TARGET_VERIFY` 的匹配规则更新为 `VERIFY` 并补上 `DRAFT`,同时评估是否要为 draft 的 EXTEND 形态单独保留一个更可读的 `DRAFT_EXTEND` 标签;若你只是关注推理正确性,可以跳过本 PR。

缺陷修复 重要性 4.00 洞察度 2.00

缺失 Token 请求状态日志由 error 降为 warning

值得快速浏览但不需精读。对维护监控体系的团队有参考价值:服务器框架中应区分客户端异常与服务器故障。同时可留意 `_handle_batch_output` 中 `HEALTH_CHECK_RID_PREFIX` 竞态分支的处理模式,理解日志降级与噪声控制间的权衡。

2026-09-14
其他 重要性 7.27 洞察度 5.00

批量回退四个误合并 PR,恢复注意力后端与内核旧行为

值得精读,但重点不在代码,而在理解“哪四个改动被摘掉、各自为什么值得重新提交”。建议:1)工程师只需读本报告的关键源码片段即可掌握本次净 diff,不必逐行比对 9 个文件;2)重点关注 #39219 的 conv_state 竞态与 #39061 的 Dynamo graph break,这两处在重新提交前必须重新验证(最好附上 green-context 复现与 torch.compile 全图捕获测试);3)在重新提交 #33426 前先 `grep` 全仓是否已有 `return_lse=True` 的消费方,避免扩展点回归时出现“加完没有使用者”或“使用者没有测试”的情况;4)#38346 需要作者补充越界复现,否则不建议恢复 clamp;5)把三路 CI 红灯的原因查清后再重新提交四个 PR,避免把既有失败带入新一轮 review。

功能 重要性 5.57 洞察度 4.00

给 HiCache 关键函数加 @rank_consensus 校验并在 CI 启用

值得快速浏览,重点学习 `@rank_consensus` 装饰器的参数选择策略:它没有简单地对整个入参/返回值做全量比较,而是通过表达式精确定位需要达成共识的字段,兼顾了校验有效性与分布式对象的异构性。若后续排查 HiCache 分布式不一致问题,可参考此模式继续扩大覆盖率。

2026-09-13
缺陷修复 重要性 5.48 洞察度 5.00

阻断不可读 checkpoint 进入 native fallback,保留原始 I/O 错误

值得精读。虽然改动只有 6 行源码,但它展示了“异常路由要匹配问题语义”的设计思路:fallback 不是万能兜底,错误信息保真比二次包装更有价值。配套单测对误拦截的回归防护到位,适合作为错误诊断类修复的参考案例。

2026-09-12

修复 TP LM-head all-to-all 纯 DP decode 死锁

值得精读。这是一个典型的“实验矩阵定位 + 最小作用域 workaround + 参数层单测”的分布式死锁修复案例,对部署 PD decode 或关注 CUDA graph 与 NCCL 交互的读者有参考价值。关注点:env 注入发生在 handle_data_parallelism 的时机、setdefault 保留用户显式设置的策略、以及作者如何用对照实验排除 MoE backend 与 dedicated buffers 两个变量。后续建议跟踪是否出现更根本的修复。

2026-09-11
其他 重要性 4.93 洞察度 2.00

把 diffusion 请求路径的 5 处缓存诊断日志由 info 降为 debug

值得快速浏览,但不值得精读。三点建议:(1)合并前确认 diffusion 侧已有 metrics 或看板覆盖 `built_plans` / `host_hit_plans` / `host_pressure_skips`,否则这次降级等于把唯一的信号源关掉;(2)在运行手册中登记“需要开启 DEBUG 才能看到 AdaLN host tier / layerwise paged-out 诊断”,避免排障时误判功能缺失;(3)后续若有独立 PR 为这三个计数器补充遥测导出(可参考 PR#38782 把 telemetry 暴露到 nightly 看板的做法),可以把观测能力补齐,届时本 PR 的降级才真正无代价。