#20342 [MLX] Add native MLX execution backend for Apple Silicon Mac
原始 PR · 作者 yeahdongcn · 合并时间 2026-03-26 15:09
为Apple Silicon Mac添加原生MLX执行后端,提升推理性能。
建议技术管理者和工程师精读此PR,重点关注MlxModelRunnerStub的设计如何避免PyTorch加载,以及tensor_bridge.py中的零拷贝张量转换实现。这些决策展示了硬件后端集成的优雅模式。
参与讨论