流式响应与连接排查
SSE、代理缓冲与超时定位。
读取增量响应
Chat Completions 设置 stream: true,按 SSE 的 data 行读取 choices[].delta,收到 [DONE] 后结束。使用 curl -N 关闭客户端缓冲。客户端、反向代理和服务端都需要允许长连接;首个 Token 的耗时包含上游推理时间。
断线与空回复
先用非流式最小请求排除鉴权与模型问题,再检查代理缓冲、超时和 finish_reason。推理模型输出上限过低可能被推理 Token 占满;参数能力以所选模型为准。