sgl-project/sglang

新增 TITO 风格 chat：支持 pre-tokenized input_ids 和返回 prompt_token_ids

建议精读 `serving_chat.py` 中 `_convert_to_internal_request` 和 `_build_chat_response` 的实现，了解请求转换管线中字段优先级和错误处理的权衡。`protocol.py` 的自定义序列化方式也值得参考。对于部署运维，需注意 `skip_tokenizer_init` 场景的兼容性。

提取模拟接受长度采样函数以复用

值得合入，提高代码复用性。建议关注 `_sample_simulated_acc_len` 的用户，并考虑添加单元测试覆盖。

新增 num_waiting_uncached_tokens 负载指标

值得阅读以了解如何在不重复遍历缓存的情况下利用现有关联信息推导派生指标。其中 `supports_fast_match_prefix` 接口设计为不同缓存后端提供了优雅的扩展点，可作为类似场景的参考模式。

修复多 tokenizer 模式 ZMQ 绑定冲突

此 PR 值得精读，尤其是多进程通信中唯一所有者模式的实现、事件驱动的 fd 注册方式以及如何处理异步/同步上下文冲突。对于需要在多 tokenizer 环境下使用负载均衡的团队至关重要。

ZMQ IPv6 支持、bench_serving 采样参数、日志降级

该 PR 设计清晰，改动范围小但实用。建议关注 IPv6 端点格式的文档补充；bench_serving 参数已添加但未在文档中提及（可后续补充）；日志降级属易用性微调。整体可安全合入。

新增 ERNIE-Image 扩散模型文档页面

如果你关注 SGLang Diffusion 的模型覆盖范围，值得浏览该文档了解 ERNIE-Image 的使用方式。对于仅关心核心推理或性能优化的开发者，可跳过。该 PR 展示了规范的 cookbook 添加流程，可供后续新模型文档参考。

健康检查失败时触发调度器 py-spy 与 CUDA coredump 诊断

建议所有涉及服务可靠性的团队阅读此 PR，尤其是 `dump_requests_before_crash` 和 `_handle_crash_dump_env` 的逻辑。其模块化设计和环境变量门控策略值得借鉴。

GLM-5 在 Blackwell 上改用 trtllm MHA 内核，移除 FA4 workaround

建议阅读该 PR 以理解 GLM-5 在 Blackwell 的注意力内核选型历史。核心设计决策是：在外部内核（FA4）不稳定的情况下，等待上游修复后改用更稳定的 trtllm 实现，而非长期维护 workaround。这一决策思路值得在依赖外部库时参考。