Skip to content

feat(openai): 按账号同步的上游模型元数据判定是否保留 max 推理强度 - #7527

Open
SavitarC wants to merge 2 commits into
Wei-Shaw:mainfrom
SavitarC:feat/reasoning-effort-max-upstream-metadata
Open

SavitarC wants to merge 2 commits into
Wei-Shaw:mainfrom
SavitarC:feat/reasoning-effort-max-upstream-metadata

Conversation

@SavitarC

Copy link
Copy Markdown
Contributor

背景

客户端请求 max 推理强度时,能否原样发给上游、还是降为 xhigh,此前完全由代码里写死的模型白名单(supportsOpenAIReasoningEffortMax)决定:GPT-5.6、GPT-6 Astra、DeepSeek V4、GLM、Kimi、K3。新模型支持 max 时只能改代码发版。

而账号同步上游模型时,系统已经把每个模型支持的推理档位存进了账号的上游模型元数据(supported_reasoning_levels),只是请求转发时没有用到。

改动

1. max 支持判定优先读账号元数据

新增 accountSupportsOpenAIReasoningEffortMax:

  • 账号同步过该上游模型、且元数据列出了推理档位:以元数据为准,档位里有 max 就保留,没有就降为 xhigh
  • 未同步或未列档位:回退到原白名单,行为不变

应用范围:

  • 出站请求:Anthropic /v1/messages 转 OpenAI Responses / Chat Completions 时的推理强度
  • 使用记录:HTTP、WebSocket(ingress / v2 / HTTP bridge / 透传)、Grok 等路径记录的推理强度,保证与实际出站一致;WebSocket 透传的使用记录现在持有账号

有了支持新模型,管理员对账号重新“同步上游支持的模型”即可,无需发版。

2. 编辑账号时保留已同步的上游模型元数据

元数据只在同步时写库,但编辑弹窗保存时提交的是打开时的 extra 快照,UpdateAccount 又会整体替换 extra,导致在同一弹窗内先同步再保存会覆盖(或删除)刚同步的元数据。现将 upstream_model_metadata 列为服务端受管字段,保存时始终以库中值为准。批量编辑本来就按字段合并,不受影响。

行为变化

  • 元数据优先于白名单:如果某个上游的 /models 漏报了 max,即使模型在白名单里也会降为 xhigh。可在账号同步结果里核对档位。
  • 元数据按账号存储:同一模型由多个账号提供时,每个账号都需要同步;未同步的账号仍走白名单。

未改动

  • ChatGPT compact 端点的 max → xhigh 降级(端点限制,与模型无关)
  • 按模型名后缀推导推理强度的逻辑
  • Antigravity 路径、Claude 侧的推理档位表

测试

  • 新增:判定函数的各种情况;Anthropic → Chat Completions 端到端(元数据声明 max 的新模型保留 max、元数据未列 max 时覆盖白名单);WebSocket 透传使用记录;编辑账号保留元数据(提交旧快照 / 未携带元数据两种情况)
  • go test -tags=unit ./internal/service/ 全部通过

上游模型元数据只由“同步上游支持的模型”落库,但编辑弹窗保存时提交的是
打开时的 extra 快照,UpdateAccount 又整体替换 extra,导致同一弹窗内
先同步再保存会覆盖(或删除)刚同步的元数据。现将其列为服务端受管字段,
保存时始终以库中值为准。
此前能否保留 max 完全由写死的模型白名单决定,新模型需要改代码发版才能
支持。现在优先读取账号同步的上游模型元数据:列出了推理档位时以其为准,
未同步或未列档位时回退到原白名单。

覆盖 Anthropic Messages 转 Responses / Chat Completions 的出站请求,
以及 HTTP、WebSocket、Grok 等路径的使用记录,保证记录的推理强度与实际
出站一致。
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant