vllm-project/vllm

融合KDA门控、cumsum和RCP_LN2缩放为单Triton内核

该PR展示了如何通过融合连续小内核来优化注意力算子，设计决策（保留FLA风格的exp2约定、复用chunk_indices）值得借鉴。对于关注KDA或一般注意力性能的工程师，推荐精读`kda_gate_cumsum_fwd_kernel`的实现和模型层的集成方式。

通过预分配缓冲区优化 MoE permute，小 batch 提升 9-14%

建议值得精读。该 PR 展示了 vLLM 中一个典型的中等复杂度性能优化模式：通过预分配缓冲区减少分配开销。设计上采用了数据类 + 可选参数的渐进式修改，确保向后兼容。C++ 与 Python 协作的缓冲区管理、懒初始化、以及审核发现的 `reshape` vs `view` 问题，都具有学习价值。此外，测试中直接断言数据指针相同来验证复用，是一种轻量可靠的验证方式。

修复 MistralTokenizer 多模态基准测试崩溃

值得合入，修复明确且风险低。建议在合入前确认 `is_mistral_tokenizer` 函数已正确导入并覆盖所有 Mistral 分词器变种。该 PR 的设计决策——在调用侧做 fallback 而非修改 MistralTokenizer 本身——值得肯定，它保持了 MistralTokenizer 的接口纯净。

OlmoHybrid 初始化修复：放宽 rope_type 检查

该 PR 变更简单直接，建议合并。也可考虑添加更细粒度的日志警告，以平衡兼容性与可调试性。

为 EC Connector 添加 shutdown 关闭接口

该 PR 改动量小，设计清晰，值得快速审核合并。对于 EC connector 实现者，建议阅读 ECConnectorBase.shutdown 和 ensure_ec_transfer_shutdown 的使用方式，并在子类中覆盖 shutdown 以处理异步操作排空。

修复DP模式迭代索引不同步，增加dummy步日志

值得快速合并的小而精的修复。设计上对核心路径（`step()`）改动极少，将逻辑隔离在日志上下文管理器中，保持了代码整洁。建议后续考虑异常保护，确保索引递增在异常时也能执行。

为 Anthropic API 添加结构化输出和 effort 参数支持

该 PR 可以精读以了解如何扩展 Anthropic API 入口，特别关注 `_handle_output_config` 的转换模式。设计决策方面，注意 `effort` 被放在 `output_config` 内而非顶层，与官方规范略有偏离，但保持了内部一致性。测试用例提供了良好的参考。

自动为 Rust 相关 PR 添加标签

这是一个简单的基础设施改进，值得合并。对于 CI 维护者，可后续监控标签准确率，必要时调整匹配条件。