#3147 Bound the trainer's GPU memory during the LoRA weight sync
实现拆解
-
核心源码路径
-miles/backends/training_utils/weight_update/protocols/cuda_ipc.py(core-logic):源码主路径;涉及符号 after_engines_resumed;包含 符号定义调整;+4/-0;关键符号:after_engines_resumed
-miles/backends/training_utils/weight_update/protocol.py(core-logic):源码主路径;涉及符号 after_engines_resumed;包含 符号定义调整;+3/-0;关键符号:after_engines_resumed
-miles/backends/megatron_utils/update_weight/hf_weight_iterator.py(core-logic):源码主路径;+2/-1;以 core-logic 为主 -
测试与验证
-tests/fast/backends/training_utils/weight_update/test_dist_weight_update_lifecycle.py(test-coverage):测试配套;包含 测试覆盖调整、配置键调整;+1/-0
| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
miles/backends/training_utils/weight_update/protocols/cuda_ipc.py |
miles/backends | modified | 5.49 |
miles/backends/training_utils/weight_update/protocol.py |
miles/backends | modified | 5.36 |
miles/backends/megatron_utils/update_weight/hf_weight_iterator.py |
miles/backends | modified | 4.7 |
miles/backends/training_utils/weight_update/updater.py |
miles/backends | modified | 4.3 |
tests/fast/backends/training_utils/weight_update/test_dist_weight_update_lifecycle.py |
dist/weight/update/lifecycle | modified | 3.46 |
分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。
评论区精华
没有提炼出高价值讨论线程
当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。
风险与影响
关联 Issue
未识别关联 Issue
当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。
参与讨论