Skip to content

上游运维、后端杂项与 i18n 移植评估 #989

Open

Description

@LIghtJUNction

合并范围

本 Issue 合并 4 个同类型工作项,统一安排实现与验收。原 Issue 的关闭仅用于去重,不代表问题已修复、已验收或放弃处理;原始讨论保留在各链接中。

子项清单

统一验收边界

  • 在当前 lmm-api-source 固定源码逐项重新确认适用范围;历史单体证据不能直接当作当前实现的失败或通过证明。
  • 每个子项保留独立的行为回归与结果,不因合并跟踪而减少原验收条件。
  • 分别记录开发自测、真实数据库/浏览器/供应商验收和部署状态;未运行项明确保留为 NOT RUN。
  • 全部子项完成并附可核对证据后,才关闭本合并 Issue。

原始需求存档

#821 — [upstream-port][evaluate] 渠道级「跳过上游 TLS 校验」开关

来源:#821

查看原始正文

开发主线交接(2026-10-12)

开发默认主线现为 wip/rust-core-go-extensions;旧单体 main 与 traditional 冻结于 3948a0a1ee1cefdd016a7aa45a11851545bb4b85。分支交接不是发布、部署或验收通过。原问题、源码基线、测试与未完成项保留;旧单体路径仅作历史证据,后续先在微服务源码重新确认并按职责移植,不回灌旧数据库/权限/资金实现。

主线/S11 跟踪:#895。Extore 商品同步:#894,未验收,禁止部署,尤其禁止合并/推送 Extore main。

需要 owner 决策:安全敏感,并且包含前端(前端部分必须由 Claude Opus 5.5 完成)。

上游提交

  • c6741c36 feat(channel): add a per-channel switch to skip upstream TLS verification(16 个后端文件、13 个前端文件)

改了什么,对 LMM 的意义

上游原来只有全局的 insecure TLS 开关,现在改为可以按渠道跳过证书校验(自签名的私有上游)。fork 已通过 #617 移植 feefe09f(隔离 TLS config),在此基础上做渠道级开关的冲突较小。

fork 中的位置

  • apps/api-go/relaykit/dto/channel_settings.go、apps/api-go/service/http_client.go、service/http_transport_policy.go、relay/channel/api_request.go、controller/channel-billing.go、controller/channel_upstream_update.go、controller/video_proxy.go、service/task_polling.go、relay/channel/gemini/relay-gemini.go、relay/channel/vertex/service_account.go、relay/mjproxy_handler.go
  • 前端:apps/web/src/features/channels/(drawer、lib/channel-form.ts、types.ts)
  • 上游的 relay/channel/task/jsplugin/adaptor.go 部分不移植(ADR)

冲突与风险

  • 会降低安全性:建议只允许 root 开启,记录审计日志,默认关闭,UI 明确警示;protected_fetch_client 的 SSRF 防护不能被绕过。
  • Rust 侧需要同一字段的 parity,或者明确拒绝。

测试

按 FORK.md 需要跑:

  • cd apps/api-go && go test ./... && go vet ./...
  • cd apps/api-go/relaykit && go test ./... && go vet ./...
  • cd apps/api-go && CGO_ENABLED=0 go build ./...(生产构建)
  • 钱包/计费 race 测试:go test -race ./model/... ./service/... ./controller/...(至少覆盖改动包)
  • 迁移 dry-run/rollback(本 issue 若不涉及 schema 则注明跳过原因)
  • provider-path 检查:对涉及的 Claude / Gemini / OpenAI Chat / Responses 路径各跑一次转换 golden 测试或实际请求
  • cd apps/web 跑 typecheck、lint、单测和生产构建(just lint / just test / just build 或 apps/web 的 package scripts)
  • 桌面和移动宽度各做一次视觉检查;保留 NOTICE 归属和上游/LIghtJUNction 文件头规则
  • 前端工作必须由 Claude Opus 5.5 完成。

工作量

中:后端约 1 天,前端约 0.5 天。


由 bot 根据 upstream 两个月审查生成(完整表:/workspace/apilmm/upstream_review_2mo.md,fork main b4600b4c,upstream head 42e694eb)。只是 issue,未写代码、未开 PR。

#823 — [upstream-port][evaluate] 上游大型 i18n:前端控制台消息与后端 AI 客户端错误翻译 (#7712)

来源:#823

查看原始正文

开发主线交接(2026-10-12)

开发默认主线现为 wip/rust-core-go-extensions;旧单体 main 与 traditional 冻结于 3948a0a1ee1cefdd016a7aa45a11851545bb4b85。分支交接不是发布、部署或验收通过。原问题、源码基线、测试与未完成项保留;旧单体路径仅作历史证据,后续先在微服务源码重新确认并按职责移植,不回灌旧数据库/权限/资金实现。

主线/S11 跟踪:#895。Extore 商品同步:#894,未验收,禁止部署,尤其禁止合并/推送 Extore main。

需要 owner 决策:244 个后端文件、44 个前端文件。前端部分必须由 Claude Opus 5.5 完成。

上游提交

  • 128089fa(#7712) feat(i18n): translate web console messages in the frontend and AI-client errors in the backend

改了什么,对 LMM 的意义

后端把面向 AI 客户端的错误改成 i18n key 并按语言翻译;控制台消息改由前端翻译。LMM 有多 locale 用户(#213/#219 漏译),统一错误翻译是有价值的。

fork 中的位置

apps/api-go/i18n/、几乎所有 controller/、middleware/、relay/ 中返回错误的地方;前端 apps/web/src/i18n/、apps/web/src/lib/ 中的错误处理。

冲突与风险

  • 冲突面极大,与 fork 自有的 assistant、支付、HeroSMS、bounty 错误文案和错误码合约冲突;AI 客户端依赖的错误 code/type 不能变。
  • 建议只取机制(i18n key 与客户端语言协商),fork 自己的消息分批迁移,不整体 cherry-pick;Rust 侧错误要保持一致。

测试

按 FORK.md 需要跑:

  • cd apps/api-go && go test ./... && go vet ./...
  • cd apps/api-go/relaykit && go test ./... && go vet ./...
  • cd apps/api-go && CGO_ENABLED=0 go build ./...(生产构建)
  • 钱包/计费 race 测试:go test -race ./model/... ./service/... ./controller/...(至少覆盖改动包)
  • 迁移 dry-run/rollback(本 issue 若不涉及 schema 则注明跳过原因)
  • provider-path 检查:对涉及的 Claude / Gemini / OpenAI Chat / Responses 路径各跑一次转换 golden 测试或实际请求
  • cd apps/web 跑 typecheck、lint、单测和生产构建(just lint / just test / just build 或 apps/web 的 package scripts)
  • 桌面和移动宽度各做一次视觉检查;保留 NOTICE 归属和上游/LIghtJUNction 文件头规则
  • 前端工作必须由 Claude Opus 5.5 完成。
  • 加跑 node --test .agents/skills/i18n-translate/scripts/apply-translations.test.mjs。

工作量

大:约 5+ 天(分批)。


由 bot 根据 upstream 两个月审查生成(完整表:/workspace/apilmm/upstream_review_2mo.md,fork main b4600b4c,upstream head 42e694eb)。只是 issue,未写代码、未开 PR。

#824 — [upstream-port][backend] 后端杂项:参数覆盖正则、缓存 token 细分、countTokens 路由、ETag、日志敏感字段、状态采样

来源:#824

查看原始正文

开发主线交接(2026-10-12)

开发默认主线现为 wip/rust-core-go-extensions;旧单体 main 与 traditional 冻结于 3948a0a1ee1cefdd016a7aa45a11851545bb4b85。分支交接不是发布、部署或验收通过。原问题、源码基线、测试与未完成项保留;旧单体路径仅作历史证据,后续先在微服务源码重新确认并按职责移植,不回灌旧数据库/权限/资金实现。

主线/S11 跟踪:#895。Extore 商品同步:#894,未验收,禁止部署,尤其禁止合并/推送 Extore main。

上游提交

  • 04c597bf(#7698) feat: support regex conditions in advanced parameter overrides
  • 3cea2bf7 feat(relaykit): preserve cached input token breakdowns
  • 81336fc6(#7388) fix(gemini): reject :countTokens as an unknown route instead of relaying it as generateContent
  • 36dbbf0f fix: keep ETag valid across different JSON packages
  • 1ca79d57 fix(pricing): show recent status samples without gaps(后端 perf_metrics + 少量前端)
  • 057f71c2 fix(logs): isolate privileged metadata + 9f506dd7 refactor(logs): dedupe sensitive keys(评估)
  • 9a867442 fix(db): avoid redundant schema migrations on restart(评估)

改了什么,对 LMM 的意义

  • 04c597bf:参数覆盖条件支持正则,渠道运维更灵活。
  • 3cea2bf7:保留 cached input 细分(如 cache_creation 和 5m/1h),缓存计费更准,与 fix(web): recalculate cache token price estimates #812 的缓存价格估算相关。
  • 81336fc6:Gemini :countTokens 目前被当作 generateContent 转发,会产生计费,是需要修的 bug。
  • 36dbbf0f:fork 使用可替换的 JSON 包时 ETag 会失效。
  • 1ca79d57:状态采样序列补齐空档。
  • 057f71c2/9f506dd7:普通用户可见日志中隔离管理员元数据;fork 已通过 [Security][Go] Redact raw upstream stream errors from logs and consume metadata #292 做过部分脱敏,需要对照。
  • 9a867442:重启时跳过多余的迁移;必须与 fork 的 pgroll/迁移演练兼容。

fork 中的位置

apps/api-go/relay/common/override*.go、relaykit/dto/(usage)、relay/channel/gemini/、router/relay-router.go、middleware/ 的 ETag、pkg/perf_metrics/、controller/perf_metrics.go、model/log.go、controller/log.go、model/main.go

冲突与风险

测试

按 FORK.md 需要跑:

  • cd apps/api-go && go test ./... && go vet ./...
  • cd apps/api-go/relaykit && go test ./... && go vet ./...
  • cd apps/api-go && CGO_ENABLED=0 go build ./...(生产构建)
  • 钱包/计费 race 测试:go test -race ./model/... ./service/... ./controller/...(至少覆盖改动包)
  • 迁移 dry-run/rollback(本 issue 若不涉及 schema 则注明跳过原因)
  • provider-path 检查:对涉及的 Claude / Gemini / OpenAI Chat / Responses 路径各跑一次转换 golden 测试或实际请求

工作量

中:约 2 天,可拆成 2–3 个小 PR。


由 bot 根据 upstream 两个月审查生成(完整表:/workspace/apilmm/upstream_review_2mo.md,fork main b4600b4c,upstream head 42e694eb)。只是 issue,未写代码、未开 PR。

#926 — [upstream-port] 性能监控过载哨兵改用容器 cgroup 口径,并加连续采样与新鲜度判定(new-api #7317 / 09109ec3)

来源:#926

查看原始正文

上游变更

  • 提交:QuantumNous/new-api@09109ec3(new-api#7317)fix(middleware): 过载哨兵改用容器口径并加入连续性与新鲜度判定
  • 规模:+556/−45,4 个文件(common/container_usage.go 新增、common/system_monitor.go、common/system_monitor_test.go 新增、middleware/performance.go)

上游改了三件事:

  1. CPU 和内存按容器 cgroup 配额算(v2 cpu.max/cpu.stat/memory.max/memory.current/memory.stat,兼容 v1),拿不到时回退宿主机口径。内存用工作集(用量减 inactive_file),和 docker stats、kubelet 口径一致。
  2. 连续 3 次采样(约 15 秒)都超阈值才判过载,任一次回落立即恢复,单次尖峰不再直接 503。
  3. 采样超过 30 秒没刷新就不熔断,中间件改为调用 common.CheckSystemOverload(status, config, now),并按当前阈值复核(运行时调高或关闭阈值立即放行)。错误码 system_*_overloaded 和 503 语义不变。

为什么对 LMM API 重要

LMM 生产是容器化部署。开启性能监控时,/proc/stat 暴露的是宿主机全部核心的占用,同节点其他负载会把它推高,导致正常 relay 流量被 503 system_cpu_overloaded 拒绝;而且现在是单次采样即熔断。

对照 api.lmm.best 现状(main / 3948a0a1)

  • apps/api-go/middleware/performance.go:仍是旧逻辑,单次采样直接按阈值返回 503。
  • apps/api-go/common/system_monitor.go:
    • 内存已经部分改进:先用 pkg/sysinfo.ReadProcessMemory()(进程内存),失败才回退 mem.VirtualMemory()。这和上游的 cgroup 工作集口径不同,移植时需要决定保留哪个,或合并(建议核对 pkg/sysinfo 是否已 cgroup 感知,避免重复实现)。
    • CPU 仍是 cpu.Percent(0,false) 宿主机口径。
    • 没有 SampledAt、连续性计数和新鲜度判定。
    • fork 已有 RunSystemMonitor(ctx)(可取消、关闭时 30s 间隔),上游仍是无 ctx 的 goroutine。移植时要保留 fork 的 ctx 结构,只合入采样和判定逻辑。
  • 默认分支 wip/rust-core-go-extensions 上没有 apps/api-go/common/system_monitor.go,需要先确认 Go 扩展在该分支上的对应位置,再决定落在哪个分支。

路径映射

上游 api.lmm.best
common/container_usage.go apps/api-go/common/container_usage.go(新增,或并入 apps/api-go/pkg/sysinfo)
common/system_monitor.go apps/api-go/common/system_monitor.go
common/system_monitor_test.go apps/api-go/common/system_monitor_test.go
middleware/performance.go apps/api-go/middleware/performance.go

风险与冲突

  • 和 fork 的 pkg/sysinfo 进程内存口径冲突,需要选定一个口径并保留回退。
  • 上游用了 strings.SplitSeq 和内置 min,需确认 fork 的 Go 版本(≥1.24)。
  • 行为变化:过载触发会推迟约 15 秒,且采样过期时放行。这是有意的,但应在 PR 描述中写明。
  • 不涉及钱包边界、支付、订阅、助手、HeroSMS、悬赏合约,也不涉及 1 USD = 500000 credits 和 Redis-off 运行时;不涉及 task/JS 插件宿主。纯后端,无前端改动。

建议测试

  • cd apps/api-go && go build ./... && go test ./common/... ./middleware/...
  • 移植上游 system_monitor_test.go(cgroup v1/v2 夹具、工作集、连续采样、过期采样、运行时阈值变化)
  • 若保留 pkg/sysinfo,补一条两种内存口径的优先级用例

工作量

小到中(约 0.5 人日),主要在合并 fork 已有的进程内存口径和 ctx 化监控循环。

由 lightbot 每小时维护任务自动创建。

Activity

  1. added
    botOpened by the maintenance bot
    tracking需求或验收索引;不代表功能已经实现或上线
    upstream-portQuantumNous/new-api upstream commit port candidate
    on Nov 14, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    botOpened by the maintenance bottracking需求或验收索引;不代表功能已经实现或上线upstream-portQuantumNous/new-api upstream commit port candidate

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions