2026-09-16
DCP 有效注意力块大小贯通配置、握手与 gRPC
值得精读,尤其适合维护 KV cache 事件消费端、DCP 部署或 Rust 前端的工程师。重点关注三处设计决策:一是 `EngineCore._initialize_effective_attention_block_size()` 只在 full-attention 分组口径唯一时暴露值,体现了"不可靠就返回 None"的保守契约;二是 `_apply_ready_response` 把空 payload 也纳入一致性集合,这是一个容易忽略的边界;三是 Rust 侧把聚合从 gRPC service 上移到 `EngineCoreClient`,使"多引擎一致才可用"的语义集中在客户端。建议读完后一并确认 Elastic EP 缩容的遗留问题是否需要在 own 的部署形态下先行规避。
Rust 前端容忍 NaN 致 rank 0 logprobs,消除服务级故障
值得精读。一是根因链路完整(NaN 比较语义 → rank 0 → frame-scoped 解码失败 → sticky health error),是典型的“边界校验把合法引擎状态误判为损坏数据”的案例,对理解 batched 协议解码的故障放大效应很有帮助;二是 BugenZhao 的 review 体现了分层设计原则:解码层保留原始语义,展示层做格式转换。阅读时重点关注 `PositionLogprobs::from_decoded_row` 的校验边界与 OpenAI 转换层 `-9999.0` 约定,并留意后续是否需要对 completions 等路径补充 NaN 序列化测试。
退役 Buf schema 发布,统一到 crates.io 分发
值得花 10 分钟快速阅读,重点看三点设计决策:
1. **先立后破的渠道迁移模式**:先在 #56365 建立 crates.io 发布并让 Rust 前端消费同一 crate,再在本 PR 退役 BSR,避免出现无发布渠道的空窗期。
2. **保留 buf build/lint 而非整体删除 workflow**:发布路径可以退,但 schema 质量门禁不能退,且移除 owner 限定后 fork 也能校验。
3. **文档对消费契约的明示**:README 直接写明 "no longer published" 并给出替代路径,比在 release note 里提一句更可靠。
该 PR 逻辑直白,不需要深挖源码,适合作为“发布基础设施收口”的参考案例。
Rust 前端新增 --hf-overrides 配置覆盖支持
该 PR 值得精读,尤其是 `Arc<TempPath>` 管理临时文件生命周期的设计,以及同一份 patch 在 CLI、frontend args-json、managed-engine 转发三条路径中的一致性保证。对于理解 Rust 前端如何与 Python 引擎共享配置语义也有帮助。
Rust 前端新增 per-request 抢占直方图,对齐 Python 指标
值得快速精读(约 30 分钟)。它是 Rust 前端移植 Python per-request 指标的标准样板,重点看 `observe_events` → `record_finished` 的收口模式、零值样本处理、以及与 Python 桶常量的同步维护方式。若团队正在推进 v1 Rust 前端迁移,建议将本 PR 的指标对齐模式纳入后续迁移 checklist。