执行摘要
该PR修复了HiSparse解码侧的两个关键问题：添加设备缓冲区预算检查以防止过度分配，并修正令牌准入控制逻辑以使用逻辑池约束。这些改动提升了HiSparse路径下的资源管理稳定性，但review中提到的预算计算保守性问题尚未完全解决，需后续关注。
功能与动机
根据PR body，动机是解决HiSparse在DecodePreallocQueue中的两个问题：
- 设备缓冲区预算缺失：解码预分配循环可能接纳超过设备池容量的请求，导致后续
alloc_device_buffer失败。
- 准入控制约束错误：在HiSparse直连主机路径中，
_pre_alloc仅分配逻辑索引，因此令牌准入的绑定约束应是逻辑池而非设备池。
实现拆解
修改集中在python/sglang/srt/disaggregation/decode.py文件：
pop_preallocated方法：添加hisparse_req_budget计算，基于设备池可用空间和padded_buffer_size确定可接纳请求数，并在循环中递减预算。
```python
hisparse_req_budget = max(
0,
hisparse_avail // self.scheduler.hisparse_coordinator.padded_buffer_size
- len(self.transfer_queue.queue),
)
```
_allocatable_tokens方法：当enable_hisparse为真时，使用逻辑分配器的可用大小作为令牌准入约束。
python
if self.scheduler.enable_hisparse:
available_size = self.token_to_kv_pool_allocator.logical_attn_allocator.available_size()
评论区精华
gemini-code-assist[bot]在review中提出了关键质疑：
"The current budget calculation is too optimistic... Using hisparse_avail allows admitting new requests based on unused capacity that is actually reserved for the growth of existing requests."
这指出预算计算仅基于当前空闲令牌，未考虑运行中和等待队列请求的未来增长（每个请求最终将消耗padded_buffer_size），可能导致过度接纳和资源耗尽。但PR作者未回应此评论，ShangmingCai直接批准了PR，暗示团队可能接受当前方案或计划后续优化。
风险与影响
- 技术风险：预算计算可能仍过于乐观，存在设备缓冲区分配失败的回归风险；逻辑池约束切换依赖
enable_hisparse配置，若状态不一致可能引发准入控制混乱。
- 影响范围：仅影响启用HiSparse的解码路径，对用户透明但能提升系统稳定性；影响程度中等，修复了资源管理漏洞，但未完全解决潜在过度接纳问题。
关联脉络
从近期历史PR看，HiSparse相关修改较少，此PR是HiSparse功能演进的一部分。同仓库PR中未见直接关联的HiSparse修复，但涉及调度和内存管理的PR（如#22554、#22559）可能共享类似的设计模式。此PR的预算计算问题可能与更广泛的资源管理优化相关，值得在后续HiSparse开发中持续关注。
参与讨论