Skip to content

[upstream-port] 保留请求体读取失败原因并返回正确状态码(new-api d10eafb5 / ef60ef27) #905

Closed

Description

@LIghtJUNction

上游来源

  • 仓库:QuantumNous/new-api
  • 提交(同批、互相关联):
    • d10eafb57e28 — fix(relay): report the real cause when a request body cannot be read
    • ef60ef27f36e — fix(relay): keep the cause of a failed body read for every later reader
  • 时间:2026-10-13 ~19:48 台北
  • 对比基线:63cecab8 → ef60ef27(2 commits)

做什么 / 为什么

上游在请求体读取失败时,原先会把真实原因(超限 MAX_REQUEST_BODY_MB、连接中断等)吞掉,变成笼统的 Invalid task protocol request 或后续读者看到 http: invalid Read on closed Body。

本次修复:

  1. 在 common.GetRequestBody 用 context key 记住首次 body 读取错误,后续读者复用同一错误
  2. 超限返回 413,其它失败仍 400(invalidRequestStatus)
  3. distributor / task-plugin 路径把真实 cause 带进响应与日志

LMM apps/api-go/common/gin.go 的 GetRequestBody 尚未缓存 key_body_read_error;失败后 body 已 Close,二次读取会丢原因。对 video/audio 等多次读 body 的路径有实际排障价值。

路径映射

上游路径 LMM 候选
common/gin.go apps/api-go/common/gin.go(main 仍有;默认分支 wip/rust-core-go-extensions 已无 apps/api-go,移植须确认当前 Go 网关归属或等到 Go 树回灌)
middleware/utils.go(invalidRequestStatus) apps/api-go/middleware/utils.go
middleware/distributor.go apps/api-go/middleware/distributor.go
middleware/task_plugin.go + tests N/A / 跳过:fork 无 task JS plugin host(见 FORK.md 延后项);勿引入插件运行时
i18n/* 仅在沿用同一文案键时同步;否则用现有 MsgDistributorInvalidRequest

风险

  • 勿引入 pkg/jsplugin / task-plugin 运行时
  • 413 vs 400 可能影响依赖「一律 400」的客户端;需回归 video/audio/image 上传超限
  • Redis-off / BodyStorage 磁盘溢出路径须保持现有清理语义(fork 已有 CleanupBodyStorage 加强)
  • WIP 微服务主线若已拆走 Go 网关,不要回灌到错误树

测试建议

  • 人为制造超限 body → 413 + 含 cause 的 message;连接中断 → 400 + cause(非 closed Body)
  • 同一请求内二次 GetBodyStorage/GetRequestBody 得到相同错误
  • go test:common、middleware(尤其 distributor / body_cleanup);不跑 task_plugin 测试
  • 不改变计费 / CAS / 钱包

工作量

小(核心是 gin.go 错误缓存 + utils 状态码 helper + distributor 几处调用点)。后端 CloudAgent 即可;当前 Cursor usage 耗尽时只记 issue,不自动开 PR。已有后端 port #816/#817 仍 blocked。

相关

Activity

  1. added
    botOpened by the maintenance bot
    upstream-portQuantumNous/new-api upstream commit port candidate
    on Oct 13, 2026
  2. LIghtJUNction commented on Oct 13, 2026

    @LIghtJUNction
    MemberAuthor

    补充当前微服务主线核查(lightdot,源码只读):默认分支 wip/rust-core-go-extensions 的远端 HEAD 为 febfd7291116cbc6185352c29954886749d116df。

    • 模型入口已由 Rust Core 接管。model_http.rs 对 Chat/Responses 设置 DefaultBodyLimit,两个 handler 都只做一次 Bytes 提取;读取失败不会进入 dispatch。旧 Go 的 GetRequestBody / 关闭后再次读取错误缓存,不适合直接回灌到这条主线。
    • 锁定依赖 为 Axum 0.8.9 / axum-core 0.5.6。对应 Axum 实现 已将长度超限映射为 413、其它读取失败映射为 400;错误响应宏 保留底层错误文本。因此模型入口主要需要补回归证据,无需另造首次错误缓存。
    • 另发现一个同类但独立的源码问题:console_compat.rs:659–668 把公告确认 body 的所有 to_bytes 错误都返回为 413 / “exceeds 1024 bytes”,会把读取中断或超时误报为超限。这里应区分 413 与 400,并保持现有“先鉴权、后读 body”、1024 字节上限及 JSON 响应契约。

    建议最小验证:两个模型入口分别覆盖有/无 Content-Length 的超限、首帧读取错误、部分读取后错误,确认状态码、原始 cause 和未调用上游/计费;公告确认补相同普通读取错误场景。现有公告测试 已覆盖声明长度和分块超限,但未覆盖普通读取失败。

    本次仅核对固定版本源码及依赖实现,未执行运行时测试,未修改代码或创建 PR,不据此关闭本 issue;也不代表线上行为已验收。

  3. LIghtJUNction commented on Oct 18, 2026

    @LIghtJUNction
    MemberAuthor

    已在 e1aa1fc7 修复前一条评论指出的当前主线缺陷:公告确认请求仅在真实长度限制错误时返回 413;其它读取失败返回固定安全的 400 / CONSOLE_BODY_READ_FAILED。鉴权仍先于读取,1024 字节上限保持生效。

    新增测试经过实际 Axum Router 和隔离 PostgreSQL,覆盖连接中断/超时错误、首段/完整 JSON 后错误、有/无 Content-Length 的 8 种组合;每次确认没有回执,随后正常请求可以成功。旧超限、鉴权、持久化及重复确认并发用例也通过。独立验证完整 console_compat 15/15、0 忽略;错误由 Body 流注入,并非公网真实断线。

    模型入口仍使用锁定 Axum 的单次 Bytes 提取与其 413/400 映射,旧 Go 重复读缓存不属于当前架构。按当前分支的适用修复关闭。

    保留测试限制:默认并发曾耗尽隔离 PostgreSQL 的共享锁内存,5 项在初始化阶段失败;改用单测试线程完整复验通过,测试内部并发未删减。未把该环境容量问题标为产品修复,也未部署生产。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    botOpened by the maintenance botupstream-portQuantumNous/new-api upstream commit port candidate

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions