sgl-project/sglang

调度器侧扁平化 prompt top logprobs 数组，两跳 IPC 省约 30ms

值得精读。三个设计点尤其值得借鉴：(1) 把数据面“组装前移 + 可选字段 + 默认 None”的兼容策略——新字段只对 opt-in 请求非 None，未使用方 wire 不变；(2) 共享校验原语 `build_flat_input_top_logprobs_arrays` 在 scheduler 与 tokenizer 两个进程复用，保证 fallback 语义一致；(3) 提交了 env-gated 的可复现序列化 microbench。需要留意的是 ch-wan 提出的缓存遮蔽与 idx 校验两个未解决的健壮性问题，未来若把 flat 格式扩展到 MIS 或其他请求路径，应先补齐这些防御。

修复 FULL_MASK verify mask 超 max_bs 越界复用，防调度器挂死

值得精读：这是一个把“为什么 `bs <= max_bs` 对 FULL_MASK 也是充分边界”论证清楚的修复，frozen struct 防止 `max_bs` 与 `buffer` 失配的设计模式可借鉴；同时其 commit 历史展示了“动态计算 vs 分配期固化”两种方案的取舍，对理解预分配 buffer 的容量管理有帮助。

移植 Kimi Linear 的 DCP + DSPARK 支持并修复验证后状态漂移

值得精读，尤其关注三点：verify 后状态提交的时机与后端能力门控设计、DCP 下 workspace 尺寸推导（head count × dcp_size 与真实 draft 宽度）、以及 allocator page_size 对齐的 KV 释放修复。对实现 speculative decoding、混合注意力模型或数据并行 + 推测解码组合的工程师有直接借鉴意义。

为 Inkling-Small 增加 DGX Spark 多节点部署指南与配置

值得快速浏览：它展示了“部署文档如何产品化”的设计取舍，尤其是 multiNodeDockerFlags 与 multiNodeHints 的职责划分、以及 Mintlify 限制下双引擎重复实现的应对方式。若你在维护 cookbook 或文档站点的部署命令生成器，建议精读 _deployment.jsx 的 fabricFlagsOf 与 _playground.jsx 的 HW_MULTINODE_DOCKER_FLAGS，并留意两处同步的维护约定。

BCG 预填图扩展至 DSA 模型与 DeepEP a2a MoE

值得精读，属于 BCG 体系的关键里程碑。三个设计决策有借鉴价值：capture stub + barrier 让 rank 耦合集体通信安全进入 CUDA graph 捕获；单一回放资格谓词同时服务 forward 与 schedule 两个时点，消除 DP collective 错配隐患；with_output 变体（调用方在图内分配输出、break 只 mutate）避免 per-shape 桥接张量。merrymercy 的 review 完整驱动了一次“条件收口 + 形态收敛”的重构，可作为大型 PR 协作范本。阅读时建议对照 commit 序列中的 A/B 实验记录（seeded dummies 引入又撤销、decode-first 顺序引入又撤销、内存预留 4 轮校准），这些是难得的工程决策素材。

LoRA 按 attn-TP 切分并支持 dp attention 动态加载

值得精读。重点看三处设计：_effective_tp_size 如何把 moe_tp / attn_tp / tp 三种切分维度收敛到一个查询入口；RowParallel 归约组跟随 base layer 的 use_dp_attention_reduce 处理；_merge_lora_update_results 的失败优先与去重语义（以及全成功时返回首对象以保证 LRU 原地修改安全）。对要扩展 LoRA 到新并行组合的工程师，这是很好的参照。

配置读取迁移至命名空间访问器，覆盖 160 文件 628 处

值得精读。这是 SGLang 配置系统的一次架构级迁移，核心看点包括：命名空间访问器与 bag 写入（`get_context().override`）的读写配对规则、"bag 存意图、runner 存解析值"的 kv-cache dtype 数据契约、以及机械化替换后如何用 bot review 兜底语义等价性。关注 `model_runner.py` 的 `configure_kv_cache_dtype` 与 `eagle_worker_v2.py` 的 `_override_worker_state` 两个 writer/reader 协同范例。

runtime_context 记录进程角色，全进程入口迁移至角色化 publish

值得精读。核心设计决策：(1) `_ConfigBag` 的"记账映射 + 真实属性"双写模式，解决了编译模型前向中配置读取的 dynamo 可追踪性问题，是一种可复制的模式；(2) `_ServerArgsOverride` 从"恢复发布对象"升级为"快照整个生命周期"，避免嵌套作用域重投影导致的语义丢失；(3) legacy shim 刻意去别名，承认 tokenizer 与 scheduler 进程语义不同；(4) 角色先作 provenance、后做投影与 fail-closed 的分阶段落地思路务实。另外 `TYPE_CHECKING` 导入陷阱的修复过程（isort 挪导入 → 运行时 `NameError` → 无条件导入 + AST 扫描）也是对 Python 代码库的通用警示。