标签列表
聚合结果
原始 PR · 作者 AndreasKaratzas · 合并时间 2026-08-19 23:20
ROCm Triton 量化路径新增 UE8M0 scale 打包支持
值得精读：一是“float32 中间计算 + 位运算打包 UE8M0”的两阶段思路，对理解 UE8M0 编码（float32 指数位提取、4 字节对齐、strided copy）很有价值；二是 Triton/C++ 双路径分叉的设备守卫模式，可作为平台差异化 kernel 实现的参考。对 ROCm/XPU 平台维护者尤其建议细看。评审中关于 `view` 保持维度与 `copy_` 非连续语义的交锋也值得留意，作者对 tensor 内存布局的理解是正确的。
原始 PR · 作者 stefankoncarevic · 合并时间 2026-08-11 14:11
AMD CI 持久化 harmony vocab 缓存并放宽文件模式校验
值得快速阅读。重点看两个设计：一是用 `TIKTOKEN_RS_CACHE_DIR` 把第三方运行时缓存重定向到持久卷、并让容器内外路径保持一致的写法；二是 `core.fileMode=false` + git diff 退出码分段，区分内容差异与 git 执行失败，避免共享工作区文件模式漂移误杀 CI。对维护 AMD/ROCm CI 的同学尤其有价值。
Harmony 严格工具调用与全生成期约束解码
值得精读。该 PR 展示了三个可借鉴的设计决策：一是用 vLLM 自建 structural tag 而非 patch 上游 xgrammar 内置实现，降低对上游 bug 的耦合；二是把用户各类 response_format 统一规范化为单个 structural_tag 通道，用 grammar admission 测试（xgrammar.testing._is_grammar_accept_string）从正反样本锁定接受集合；三是把约束起点从 final 通道前移到全生成期并用 reasoning-aware 包装避免行为回退。阅读时建议重点对照 vllm/parser/harmony.py 的 _assemble_tag/get_harmony_structural_tag 与 tests/parser/test_harmony.py 的 TestAdjustRequest，理解两处前端接线（online_renderer.py、responses/serving.py）的同步关系。
按平台分派构建 triton_kernels，修复 gfx950 GPT-OSS 崩溃
值得粗读（约 5 分钟）：核心价值在于两点——CMake 按目标设备分派同一依赖的不同源码来源 + 供应链固定到 commit 的实践，以及运行时去掉 vendored 回退、统一外部包导入的契约简化。需要特别关注的风险点是 except ImportError 静默返回可能掩盖依赖缺失，以及非 ROCm 平台去掉 vendored 回退后的兼容性；若团队维护 ROCm 多架构，建议跟进 fork commit 的更新节奏与 gfx90a/gfx942 回归验证。
为 XPU 添加 GPT-OSS 准确性测试配置和 CI 步骤
该 PR 属于测试/CI 基础设施增强，值得 XPU 相关开发人员了解 CI 覆盖的扩展。核心逻辑开发人员可忽略。
原始 PR · 作者 chaojun-zhang · 合并时间 2026-07-24 09:16
跳过 XPU 上 Marlin 后端的 LoRA 测试
这是一个简单、安全的测试修复，与已有的平台跳过模式一致。值得作为 Intel GPU 持续集成稳定化的参考。建议快速合并。
原始 PR · 作者 xuebwang-amd · 合并时间 2026-07-18 11:49
修复Quark MXFP4 emulation MoE维度block对齐
该 PR 修复了实际 bug 且重构方向正确，值得精读。review 中的共享 helper 设计思路体现了代码复用和统一管理的重要性。
原始 PR · 作者 yewentao256 · 合并时间 2026-07-05 20:41
移除 SP 必须依赖 DP 的限制，提升 MoE 吞吐 1.9%-5%
建议关注并行配置的相关变更，特别是 DP=1 时启用 SP 的新能力。对于使用 MoE 且未开启 DP 的用户，推荐尝试本 PR 以获取性能提升。同时注意 LoRA 与 SP 的互斥约束。