执行摘要

本 PR 优化了 vLLM Rust 前端的启动失败错误处理和就绪日志，主要涉及两个文件：rust/src/cmd/src/main.rs 和 rust/src/server/src/lib.rs。核心改动包括：将顶层错误通过 tracing formatter 统一输出（而非仅通过 main 的 Result 逃逸）、区分 HTTP 和 gRPC 协议的就绪日志、以及将模型名日志提前到启动早期。这些变更提升了启动失败的可诊断性和运维可观测性，不涉及功能逻辑变更，风险低。

功能与动机

Rust 前端启动错误之前只通过 main 的 Result 传播，最终呈现未使用前端的正常日志格式，导致开发者和运维人员难以快速定位问题。现有的服务器启动消息在监听器绑定之后输出，但没有明确标识各个协议（HTTP 和 gRPC）何时准备好接受请求。本 PR 解决了这两个问题，并提取自 #43417 的 Rust 部分，该 PR 正在重构以仅保留 Python 监督方的进程监控逻辑。

实现拆解

1. main.rs：错误处理重构
   - 导入 std::process::ExitCode 和 thiserror_ext::AsReport，将 tracing 的 error 宏加入 use。
   - 将 fn main() -> Result<()> 改为 fn main() -> ExitCode。在函数体内，runtime 构建和 block_on(async_main(cli)) 不再使用 ? 传播错误，而是通过 and_then 链接，最后 match result 处理：成功返回 ExitCode::SUCCESS，失败则通过 error! 宏记录完整错误链（使用 error.as_report() 展示 cause chain），并返回 ExitCode::FAILURE。

2. lib.rs：就绪日志增强
   - 模型名获取提前：将 let model = state.primary_model_name().to_owned() 从监听器绑定后移到 build_state 之后，并在绑定前新增 info!(model, "starting vLLM server") 日志。
   - HTTP 日志调整：将原有的 info!(%bind_address, %scheme, %model, "starting OpenAI server") 移动到 HTTP 服务实际上开始接受请求之前（serve_connections 调用之后），并新增 info!(bind_address, scheme, model, "OpenAI server is ready to accept requests") 日志。
   - gRPC 日志调整：将 gRPC 的 starting 日志保留在服务构建后，新增 info!(%addr, tls, model, "gRPC server is ready to accept requests") 日志，并调整了 grpc_setup 元组的结构以包含 addr。

3. 验证：无新增测试，但通过 cargo nextest run 验证了 380 个测试通过，手动验证了模型启动日志和 TLS 配置失败时的 multiline 错误链输出。

rust/src/cmd/src/main.rs

改进了顶层启动错误处理，将错误通过 tracing formatter 输出而非仅通过 main 的 Result 逃逸。

// rust/src/cmd/src/main.rs 中 main 函数的关键变更
fn main() -> ExitCode {
    // ... (tracing 初始化、CLI 解析、runtime 构建等 ) ...
​
    // 之前 : runtime.build().context(...)?.block_on(async_main(cli))
    // 现在 : 将 Result 处理移到 match 中
    let result = runtime
        .build()
        .context("failed to build Tokio runtime") // 不再使用 ? 传播错误
        .and_then(|runtime| runtime.block_on(async_main(cli)));
​
    match result {
        Ok(()) => ExitCode::SUCCESS,
        Err(error) => {
            // 使用 error! 宏记录完整错误链，通过 as_report() 展示 cause chain
            error!("process failed with error: {:#?}", error.as_report());
            ExitCode::FAILURE
        }
    }
}

rust/src/server/src/lib.rs

改进了服务器就绪日志，区分了 HTTP 和 gRPC 的就绪状态，并将模型名日志提前。

// rust/src/server/src/lib.rs 中 serve_with_router_extension 的关键变更片段
​
// 提前模型名获取，在 build_state 后立即记录
let model = state.primary_model_name().to_owned();
let app = extend_router(build_router(state.clone()));
​
info!(model, "starting vLLM server"); // 新增：启动早期记录模型
​
let listener = Listener::bind(&config.listener_mode)
    .await
    .context("failed to bind listener for OpenAI server")?;
let bind_address = listener.local_addr_display()?;
​
// ... gRPC 设置（略），其中新增 gRPC 就绪日志：
// info!(%addr, tls, model, "gRPC server is ready to accept requests");
​
// 移到就绪点，而非绑定后
info!(
    bind_address,
    scheme, model, "OpenAI server is ready to accept requests"
);

评论区精华

该 PR 无 review 评论，审核人 njhill 已批准。

风险与影响

• 风险：低风险。日志顺序调整可能轻微影响依赖日志时间戳的监控脚本，但信息完整且更准确。错误处理从传播 Result 改为内部处理并记录日志，属于标准 Rust 实践。
• 受影响模块：仅 Rust 前端入口和服务器核心。
• 影响程度：轻微，仅影响日志输出和错误处理路径，不修改任何功能逻辑。

关联脉络

本 PR 是 #43417 的 Rust 部分提取，该 PR 正在重构以保留 Python 监督方进程监控逻辑。本 PR 与之正交，后续合并 #43417 时不会冲突。