Prhub
← 返回仓库详情

标签聚合

PaddlePaddle/FastDeploy · 标签视图

标签列表

聚合结果

APIServer 相关 PR

2026-04-17

#7430 [Bugfix][RL] fix control request timeout in async update weights pipe…

作者 jackyYang6 · 合并时间 2026-04-17 16:45

缺陷修复 重要性 4.47 洞察度 4.00

修复异步RL权重更新流程中控制请求的竞态超时问题。

bugfix RL APIServer

该PR值得精读,因为它展示了一个典型的竞态条件修复案例:通过调整异步操作顺序来消除时序问题。关注点在于 `run_control_method` 中响应通道注册与请求发送的顺序调整,这是分布式系统中控制流设计的常见模式。

2026-04-16

#7190 [Feature] implement log channel separation and request log level system

作者 xyxinyang · 合并时间 2026-04-16 15:13

功能 重要性 7.98 洞察度 7.00

实现日志通道划分和请求日志分级系统,优化日志管理和可配置性。

Feature Logging infra APIServer

该 PR 值得精读,特别是日志通道划分和分级系统的设计决策。关注 `RequestLogLevel` 枚举的使用、`log_request` 和 `log_request_error` 的实现方式(如级别过滤和错误处理),以及如何通过环境变量实现动态配置。同时,注意 review 中讨论的性能和兼容性权衡,为类似基础设施重构提供参考。

2026-04-15

#7369 [BugFix] fix tool call parser

作者 luukunn · 合并时间 2026-04-15 16:21

缺陷修复 重要性 6.56 洞察度 5.00

修复 ErnieX1 工具调用解析器在流式场景中的空参数判断和结束标记处理问题。

bugfix APIServer DataProcessor

建议精读此 PR,关注其如何通过精确的类型判断(None vs. 真值)和流式结束处理(使用 `rindex` 而非固定字符串)解决边界条件问题,可作为处理类似解析场景的参考设计。

2026-04-14

#7307 [DataProcessor] add strict

作者 luukunn · 合并时间 2026-04-14 17:25

功能 重要性 4.00 洞察度 3.00

为OpenAI协议FunctionDefinition添加strict字段,支持严格模式函数调用。

DataProcessor APIServer Feature

该PR变更简单直接,主要价值在于对齐OpenAI API规范。建议关注两个设计决策:1) 使用Optional[bool] = None而非bool = False来避免不必要的序列化字段。2) 保持与JsonSchemaResponseFormat.strict字段的一致性。对于理解FastDeploy的OpenAI协议扩展机制有参考价值。

2026-04-13

#7352 add ips check

作者 zhoutianzi666 · 合并时间 2026-04-13 15:24

功能 重要性 4.00 洞察度 3.00

在API Server启动时添加Worker IP白名单检查,增强分布式推理安全性。

APIServer Feature Security

该PR代码简单,逻辑清晰,适合快速浏览以了解IP白名单检查的实现方式。值得关注的点是:1. 设计决策:选择在`main()`函数入口处进行验证,确保尽早拦截非法节点。2. 未采纳的优化建议:团队可能认为重复调用`get_host_ip()`的开销可忽略,或出于代码简洁性考虑。建议后续补充测试用例以覆盖IP匹配和不匹配的场景。

2026-04-08

#7254 Revert "[Other] support video_fps args for video bench (#7077)"

作者 Wanglongzhi2001 · 合并时间 2026-04-08 20:13

其他 重要性 3.00 洞察度 2.00

回滚OpenAI协议中为视频基准测试临时添加的video_fps参数。

APIServer Others Refactor

该PR值得快速浏览以了解API清理决策,但技术内容简单。关注点:1) 回滚决策反映临时参数应避免加入核心协议;2) 视频处理参数传递的最佳实践(通过mm_processor_kwargs)。无需深入代码分析。

2026-04-02

#7154 [BugFix]fix extract_tool_calls

作者 luukunn · 合并时间 2026-04-02 21:18

缺陷修复 重要性 4.00 洞察度 3.00

修复 ErnieX1 工具调用解析器在无标记时错误返回 tools_called=True 的语义 bug。

bugfix APIServer test

该 PR 值得快速浏览以理解工具解析器的错误处理逻辑,但变更直白,无需深入剖析。关注点在于前置检查的设计和测试更新的一致性。

#7077 [Other] support video_fps args for video bench

作者 Wanglongzhi2001 · 合并时间 2026-04-02 10:40

功能 重要性 3.00 洞察度 4.00

为OpenAI协议请求添加临时参数video_fps,支持视频理解基准测试。

Others Feature APIServer

该PR实现简单,可快速浏览了解协议扩展模式。值得关注的是Copilot指出的设计问题:临时参数如何与现有处理链路集成。建议结合后续是否补充消费逻辑的PR一起分析。