Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-03 22:27 同步状态:空闲 下次计划:2026-09-03 23:27

PR 列表

更多筛选
2026-04-06
基础设施 重要性 3.00 洞察度 3.00

将CI自动二分法的最小失败连续次数从2降为1,确保所有失败都被分析。

该PR变更简单直接,适合快速浏览以了解CI监控策略的调整。值得关注的是review中揭示的“默认值一致性”问题,提醒开发者在修改默认参数时需检查所有相关入口点。对于负责CI基础设施的工程师,建议了解此变更对资源使用的影响。

缺陷修复 重要性 3.00 洞察度 2.00

修复语法后端单元测试中think_end_id参数传递问题,确保测试与PR#22148变更对齐。

该PR变更简单直接,无需精读。对于关注测试维护和CI稳定性的工程师,可以快速浏览以了解think_end_id参数传递方式的变化。对于不直接涉及语法后端测试的开发者,可以忽略此PR。

缺陷修复 重要性 6.00 洞察度 7.00

修复TRT-LLM MHA在EAGLE v2推测解码+DP注意力下因批次大小不一致导致的CUDA非法地址错误。

该PR值得精读,尤其关注:1) DP注意力下批次大小不一致的根本原因分析;2) 从forward_batch.batch_size到元数据推导的设计决策,体现了与其他后端行为对齐的架构一致性;3) review中关于填充目的和注意力独立性的讨论,有助于理解分布式推理中的数据流设计。

#22134 [Hotfix] Fix router gemm on sm103

原始 PR · 作者 Fridge003 · 合并时间 2026-04-06 00:33

缺陷修复 重要性 5.00 洞察度 4.00

修复DeepSeek-V2模型在SM103设备上路由器GEMM内核优化条件,避免潜在兼容性问题。

该PR值得快速浏览,特别是对于维护DeepSeek模型或硬件兼容性代码的工程师。虽然变更简单,但揭示了硬件特定优化中的微妙权衡:在修复已知问题的同时,可能无意中排除了其他类似设备。建议关注后续是否有更全面的硬件兼容性测试或条件优化策略。

2026-04-05
测试 重要性 3.00 洞察度 4.00

为Qwen3 Next MTP模型重新启用SpecV2的KL散度准确性测试。

该PR变更简单,值得快速浏览以了解测试恢复的背景。重点关注KLDivergenceMixin的设计和阈值设置,以及review中关于测试方法执行的讨论。

缺陷修复 重要性 5.00 洞察度 4.00

修复HiMambaRadixTree在write_through模式下因备份链断裂导致的断言失败问题。

该PR值得精读,特别是对于负责缓存模块的工程师。关注点: 1. 备份不变性设计:理解为什么父节点必须先于子节点备份是缓存一致性的关键。 2. 与HiRadixCache的对比:HiRadixCache没有_evict_regular中的断言,因此容忍此场景;而HiMambaRadixTree有断言,需要显式修复。 3. 防御性编程:write_backup中的条件检查是典型的防御性编程,值得学习。

缺陷修复 重要性 3.00 洞察度 2.00

修复解耦解码中GQA预填充与解码TP不同时staging预热条件检查缺失导致的潜在属性错误。

该PR变更简单直接,无需深入精读。值得关注的是:1. 了解GQA预填充与解码TP不同时staging机制的特殊处理。2. 注意review中关于hasattr与getattr的风格讨论,可作为代码简洁性参考。

缺陷修复 重要性 4.00 洞察度 3.00

修复CI中test_load_weights_from_remote_instance测试因transfer_engine后端挂起的不稳定问题。

建议工程师精读此PR,了解CI不稳定性根因和修复策略。重点关注remote_instance_weight_loader_start_seed_via_transfer_engine参数的作用,以及测试中随机行为的管理。对于技术管理者,此PR展示了快速修复CI问题的有效方法,但需注意后续测试重构的必要性。

参与讨论