Prhub

#23547 [Intel CPU/XPU] SGL doc updates

原始 PR 作者 ZailiWang 合并时间 2026-04-24 09:23 文件变更 2 提交数 3 评论 2 代码增减 +72 / -47

执行摘要

更新 Intel CPU/XPU 文档,适配新 CLI 入口并添加 XPU Docker 指南

PR说明动机为更新CPU/XPU文档,具体包括添加XPU Docker环境搭建示例命令、将旧命令替换为新的sglang serve脚本、移除--torch-compile-max-bs的约束描述(已在#13881合并后不再需要)。

建议合并后添加提交修复xpu.mdx中缺少的--host 0.0.0.0参数。值得关注的变更:统一CLI入口的文档迁移,以及XPU Docker支持的正式文档化。

讨论亮点

review评论来自gemini-code-assist[bot],指出xpu.mdx中新sglang serve命令缺少--host 0.0.0.0参数,可能影响外部访问。作者未回复该评论,PR随后合并,该问题未被解决。

实现拆解

未涉及代码变更,仅文档修改。

  1. cpu_server.mdx:将所有python -m sglang.launch_server替换为sglang serve--model改为--model-path,并调整命令参数顺序(如将--host放到最后)。移除--torch-compile-max-bs的额外说明,简化注释。部分示例的--tp值被修改(例如Llama-3.2-3B从2改为3)。
  2. xpu.mdx:新增Docker安装章节,提供从git clonedocker build/run的完整命令,包括挂载设备、设置HF_TOKEN等。同时将启动命令替换为新格式。
文件 模块 状态 重要度
docs_new/docs/hardware-platforms/cpu_server.mdx CPU 文档 modified 4.29
docs_new/docs/hardware-platforms/xpu.mdx XPU 文档 modified 3.53

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

xpu.mdx 缺少 --host 参数 正确性

gemini-code-assist[bot] 指出新 sglang serve 命令缺少 --host 0.0.0.0,可能影响外部访问。

结论:未回复,PR 合并时该问题未修复。 · unresolved

风险与影响

文档中命令示例错误可能导致用户部署失败:xpu.mdx中缺少--host 0.0.0.0参数,若用户遵循文档,服务可能默认只监听127.0.0.1,无法从外部访问。CPU文档中部分示例的--tp值被修改(如从2改为3),与模型实际支持的并行度可能不匹配,尤其是Llama-3.2-3B模型通常推荐tp=2,改为tp=3可能导致运行错误。

影响Intel CPU/XPU平台的部署用户,使其获得更准确的启动命令和完整的Docker环境搭建指南。但xpu.mdx缺少host参数可能误导用户,降低外部访问性。整体影响范围有限,仅限于文档读者。

文档示例不完整

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论