标签列表
聚合结果
新增 Rust TreeCore 缓存后端与共享一致性测试套件
值得精读的架构级 PR。重点学习：1）FFI 边界设计——owned snapshot、tagged tuple 编解码、禁止迭代器跨 Rust 边界、inspection binding 与生产 binding 严格隔离（wheel 内校验无 inspect_* 方法）；2）双后端共享测试套件的一致性验证策略，比后端各自复制测试更能暴露语义差异；3）fail-fast 特性管理——不支持的组合在构造期显式拒绝并附 TODO(Jialin)，避免不完整语义静默运行；4）TreeComponent trait 抽象让 Python 语义可以逐方法移植，每个方法都带 Python 参考实现注释，是跨语言移植的良好范例。
原始 PR · 作者 merrymercy · 合并时间 2026-08-17 05:58
源码检出按需构建 Rust 扩展，统一三 crate 模块命名
值得精读，尤其 loader.py 的指纹缓存、文件锁与原子暂存设计，对构建系统开发者有直接借鉴价值。建议关注两个后续优化点：一是缓存失效以整个 rust 工作区为粒度，可优化为按 crate 依赖子图计算 digest；二是 auto 模式下无 Rust 工具链时直接抛错，可考虑先探测 cargo 可用性并给出更友好的降级提示。
升级 dynamo-tokenizers 至 1.7.0 并适配 JSON 键序变化
值得快速精读 frame.rs 的测试调整和 finish_reason.rs 的 Box 化两处改动，它们展示了依赖升级时如何识别并适配隐性行为变化（键序、枚举大小）。对维护 rust server 的工程师有参考价值；对只关注模型性能的读者可跳过。
为 Rust 服务器添加 tokenizer/detokenizer/egress 模块
建议关注： - 在合并后尽快补充测试，特别是 detokenizer 的增量解码一致性和 egress 的帧解析错误处理。 - 审查 `handle_result`/`handle_fail` 中的死代码问题，确保无逻辑遗漏。 - 跟踪 `dynamo-tokenizers` 的版本更新。 该 PR 的设计文档化充分（代码注释详尽），值得团队阅读了解 Rust 服务器的架构决策。