执行摘要

该PR修复了HiSparse解码侧的两个关键问题：添加设备缓冲区预算检查以防止过度分配，并修正令牌准入控制逻辑以使用逻辑池约束。这些改动提升了HiSparse路径下的资源管理稳定性，但review中提到的预算计算保守性问题尚未完全解决，需后续关注。

功能与动机

根据PR body，动机是解决HiSparse在DecodePreallocQueue中的两个问题：

1. 设备缓冲区预算缺失：解码预分配循环可能接纳超过设备池容量的请求，导致后续alloc_device_buffer失败。
2. 准入控制约束错误：在HiSparse直连主机路径中，_pre_alloc仅分配逻辑索引，因此令牌准入的绑定约束应是逻辑池而非设备池。

实现拆解

修改集中在python/sglang/srt/disaggregation/decode.py文件：

• pop_preallocated方法：添加hisparse_req_budget计算，基于设备池可用空间和padded_buffer_size确定可接纳请求数，并在循环中递减预算。
  

  hisparse_req_budget = max(
      0,
      hisparse_avail // self.scheduler.hisparse_coordinator.padded_buffer_size
      - len(self.transfer_queue.queue),
  )
  

• _allocatable_tokens方法：当enable_hisparse为真时，使用逻辑分配器的可用大小作为令牌准入约束。
  

  if self.scheduler.enable_hisparse:
      available_size = self.token_to_kv_pool_allocator.logical_attn_allocator.available_size()
  

评论区精华

gemini-code-assist[bot]在review中提出了关键质疑：

"The current budget calculation is too optimistic... Using hisparse_avail allows admitting new requests based on unused capacity that is actually reserved for the growth of existing requests."

这指出预算计算仅基于当前空闲令牌，未考虑运行中和等待队列请求的未来增长（每个请求最终将消耗padded_buffer_size），可能导致过度接纳和资源耗尽。但PR作者未回应此评论，ShangmingCai直接批准了PR，暗示团队可能接受当前方案或计划后续优化。

风险与影响

• 技术风险：预算计算可能仍过于乐观，存在设备缓冲区分配失败的回归风险；逻辑池约束切换依赖enable_hisparse配置，若状态不一致可能引发准入控制混乱。
• 影响范围：仅影响启用HiSparse的解码路径，对用户透明但能提升系统稳定性；影响程度中等，修复了资源管理漏洞，但未完全解决潜在过度接纳问题。

关联脉络

从近期历史PR看，HiSparse相关修改较少，此PR是HiSparse功能演进的一部分。同仓库PR中未见直接关联的HiSparse修复，但涉及调度和内存管理的PR（如#22554、#22559）可能共享类似的设计模式。此PR的预算计算问题可能与更广泛的资源管理优化相关，值得在后续HiSparse开发中持续关注。