sgl-project/sglang

新增 CUDA 13.4 容器与 nightly 流水线，初步支持 Rubin sm_107

值得容器与 CI 基建团队精读。该 PR 展示了在一项硬件工具链尚未正式发布时如何搭建「可用优先」的构建栈：预览源引导、公共 NCCL 回退、C++ 标准参数化、三大 wheel 内联重编、cutedsl 架构降级，这些 trade-off 与『同层清理预览源而非 apt pin』等细节都值得借鉴。对应用层工程师价值有限，可只关注 nightly-cu134 镜像的可用性与 flashinfer 冷启动的注意事项。

优化 spec decode 分配路径的 tensor 标量读取

值得精读，作为性能优化微基准的示例，展示了如何通过批量转换避免张量标量调度开销，同时保持逻辑等价。可关注后续是否补充基准数据。

降低 AWQ Marlin MMLU 测试阈值至 0.80

该 PR 价值较低，但值得关注其背后的测试稳定性问题。建议在后续工作中考虑对评测结果进行多次采样取均值，或使用置信区间来判断是否真正回归，而非单纯依赖单次阈值。

拓宽 FP8 k-cache 量化核 token_id 为 int64，修复指针溢出

值得精读的是一类典型 Triton 陷阱：`tl.program_id(0)` 默认 int32 在大偏移指针算术中会静默回绕。该 PR 改动极小但思路清晰（先修入口 kernel，再按相同模式横向推广到 dequant/paged），可作为小范围数值正确性修复的范例。建议顺带审计仓库内其他以 program_id 乘法计算指针偏移的 kernel，评估是否需要同样拓宽；若所在团队维护长上下文服务并启用了 DSA/DSV4 FP8 KV cache，建议合入并跟进 GSM8K 与性能回归数据。

修复 Hopper 上 mxfp4 权重缩放越界读取问题

建议精读。该 PR 展示了如何通过简洁的填充修复一个由上游 kernel 未掩码加载导致的隐蔽越界读取问题，并附有详细的根因分析、性能对比和验证数据，值得深入了解其调试思路和修复策略。代码中也清晰标记了上游修复的退役条件。

权重缓存守护进程路径改为环境变量可配置

该 PR 值得快速浏览，因为展示了如何将硬编码路径改为环境变量驱动的模式，并附带简单校验。对于维护者，可关注环境变量命名是否符合全局约定。

HiCache 辅助加载不再复用 Full KV 固定标记

值得精读，原因有三：一是它是所有权分离的典型设计案例，核心数据结构只固定真正共享的 Full KV 资源，辅助资源由各自锁保护；二是展示了大 PR 拆分聚焦修复的工程实践；三是测试构造了清晰的跨组件重叠场景，可当作 HiCache 并发语义的入门样例。

GLM-5.3-Flash cookbook 默认切换 FP8 KV + TRT-LLM DSA，并修复多单元格配置问题

值得精读：它展示了如何在文档/部署面板中做硬件条件化的默认推荐，以及如何用隔离实验和基准数据支撑配置决策。特别关注 isRecommendedSelection、verificationStatus 的写法，以及“临时禁用已知缺陷组合”的处理方式。对于需要维护相似 cookbook 或部署面板的工程师有很好的借鉴价值。