执行摘要

本次PR为FastDeploy的GPU模型运行器增加了请求抢占信号传递支持。当启用FD_USE_GET_SAVE_OUTPUT_V1环境变量时，被抢占的请求会将其采样令牌ID设置为特殊值PREEMPTED_TOKEN_ID(-9)，以此通知服务器端中断操作已完成。这是一个小规模但重要的功能增强，确保了抢占流程的正确结束。

功能与动机

根据PR描述，该变更的目的是"支持在开启FD_USE_GET_SAVE_OUTPUT_V1时，同步中断完成信号"。具体来说，在使用GET_SAVE_OUTPUT_V1模式时，当请求被抢占（preempted）后，没有对应的采样令牌。通过设置PREEMPTED_TOKEN_ID(-9)，可以通知服务器端abort操作已完成，使抢占流程能够正确结束。

实现拆解

实现集中在fastdeploy/worker/gpu_model_runner.py文件的_postprocess方法中：

1. 导入变更：从fastdeploy.config导入PREEMPTED_TOKEN_ID常量
2. 核心逻辑：在FD_USE_GET_SAVE_OUTPUT_V1启用时，检查last_preempted_idx数组
3. 令牌替换：使用paddle.where条件操作，将被抢占请求的sampled_token_ids设置为PREEMPTED_TOKEN_ID

关键代码段：

if envs.FD_USE_GET_SAVE_OUTPUT_V1:
    paddle.assign(
        paddle.where(
            self.share_inputs["last_preempted_idx"][: sampler_output.sampled_token_ids.shape[0]] == 1,
            PREEMPTED_TOKEN_ID,
            sampler_output.sampled_token_ids,
        ),
        sampler_output.sampled_token_ids,
    )

评论区精华

AI代码审查机器人fastdeploy-bot指出了关键问题：

🔴 Bug 变量名错误：envs.GET_SAVE_OUTPUT_V1不存在，应为envs.FD_USE_GET_SAVE_OUTPUT_V1

这个错误会导致运行时AttributeError，使条件分支永远无法进入。开发者随后修复了这个问题。审查还提到：

代码逻辑清晰，与已有的token_processor.py中处理PREEMPTED_TOKEN_ID的逻辑保持一致。

风险与影响

风险分析：

• 环境变量名错误已修复，但原始错误可能导致运行时异常
• 需要确保服务器端能正确处理PREEMPTED_TOKEN_ID(-9)，否则可能导致协议不一致
• 代码覆盖率报告显示有1行代码缺少测试覆盖

影响评估：

• 对使用FD_USE_GET_SAVE_OUTPUT_V1模式的用户：增强了请求抢占处理能力
• 对系统：提高了GPU模型运行器在抢占场景下的健壮性
• 对团队：变更规模小，易于维护，与现有处理逻辑保持一致

关联脉络

从近期历史PR分析可以看出：

1. 相同文件修改：PR #7165、#7147、#7215都修改了fastdeploy/worker/gpu_model_runner.py文件，表明这是FastDeploy中频繁修改的核心组件
2. GPU优化趋势：多个PR涉及GPU性能优化（如#7165的TBO优化、#7215的CUDA图自动缩放），本次PR延续了这一方向
3. 引擎改进：与#7102（修复流式解码令牌丢失）类似，都是对请求处理生命周期的完善

本次PR虽然规模小，但体现了FastDeploy在完善请求生命周期管理和异步处理信号传递方面的持续改进。