Prhub

#46396 [Docs] Add Phi-3.5-mini-instruct to batch invariance tested models

原始 PR 作者 yuvalluria 合并时间 2026-07-17 06:05 文件变更 1 提交数 1 评论 5 代码增减 +1 / -0

执行摘要

将 Phi-3.5-mini-instruct 加入批量不变性测试模型列表

Phi-3.5-mini-instruct 是微软推出的 3.8B 小型模型,适合边缘部署和需要确定性推理的场景。将其纳入批量不变性测试列表,可增加模型覆盖,方便用户参考。该 PR 关闭了 Issue #27433 中部分内容。

该 PR 为简单的文档更新,不值得深入阅读,但可视为批量不变性特性持续推进的一部分。

讨论亮点

审核者 yewentao256 要求作者使用正确的 pytest 命令运行完整测试并附上全部输出日志。作者随后在 H100 NVL 上完成测试,输出显示 16 个测试用例全部通过。审核者最终批准。

实现拆解

仅在 docs/features/batch_invariance.md 的第 107 行之后增加一行文本:- **Phi series**:microsoft/Phi-3.5-mini-instruct``,将该模型加入已验证模型列表。此变更无需修改代码或配置,纯文档更新。

文件 模块 状态 重要度
docs/features/batch_invariance.md 文档 modified 1.3

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

测试命令和输出正确性 测试

审核者 yewentao256 指出 python3 test_batch_invariance.py 不是正确的命令,应使用 pytest test_batch_invariance.py 并收集完整摘要。

结论:作者按照要求重新测试,并附上完整 pytest 输出,所有 16 个测试通过。 · 已解决

风险与影响

无技术风险。该 PR 仅修改文档,不涉及任何代码、配置或测试逻辑变更。

对用户:文档更新后,用户可在批量不变性功能文档中看到该模型被列为已验证。对系统:无影响。对团队:微小的工作量,扩大了测试覆盖的模型范围,有助于用户信心。

关联 Issue

#27433 [Feature]: Batch Invariant Feature and Performance Optimization

完整报告

参与讨论