Repository navigation
Description
合并范围
本 Issue 合并 4 个同类型工作项,统一安排实现与验收。原 Issue 的关闭仅用于去重,不代表问题已修复、已验收或放弃处理;原始讨论保留在各链接中。
子项清单
- [upstream-port][evaluate] 渠道级「跳过上游 TLS 校验」开关 #821 — [upstream-port][evaluate] 渠道级「跳过上游 TLS 校验」开关
- [upstream-port][evaluate] 上游大型 i18n:前端控制台消息与后端 AI 客户端错误翻译 (#7712) #823 — [upstream-port][evaluate] 上游大型 i18n:前端控制台消息与后端 AI 客户端错误翻译 (#7712)
- [upstream-port][backend] 后端杂项:参数覆盖正则、缓存 token 细分、countTokens 路由、ETag、日志敏感字段、状态采样 #824 — [upstream-port][backend] 后端杂项:参数覆盖正则、缓存 token 细分、countTokens 路由、ETag、日志敏感字段、状态采样
- [upstream-port] 性能监控过载哨兵改用容器 cgroup 口径,并加连续采样与新鲜度判定(new-api #7317 / 09109ec3) #926 — [upstream-port] 性能监控过载哨兵改用容器 cgroup 口径,并加连续采样与新鲜度判定(new-api #7317 / 09109ec3)
统一验收边界
- 在当前
lmm-api-source固定源码逐项重新确认适用范围;历史单体证据不能直接当作当前实现的失败或通过证明。 - 每个子项保留独立的行为回归与结果,不因合并跟踪而减少原验收条件。
- 分别记录开发自测、真实数据库/浏览器/供应商验收和部署状态;未运行项明确保留为 NOT RUN。
- 全部子项完成并附可核对证据后,才关闭本合并 Issue。
原始需求存档
#821 — [upstream-port][evaluate] 渠道级「跳过上游 TLS 校验」开关
来源:#821
查看原始正文
开发主线交接(2026-10-12)
开发默认主线现为 wip/rust-core-go-extensions;旧单体 main 与 traditional 冻结于 3948a0a1ee1cefdd016a7aa45a11851545bb4b85。分支交接不是发布、部署或验收通过。原问题、源码基线、测试与未完成项保留;旧单体路径仅作历史证据,后续先在微服务源码重新确认并按职责移植,不回灌旧数据库/权限/资金实现。
主线/S11 跟踪:#895。Extore 商品同步:#894,未验收,禁止部署,尤其禁止合并/推送 Extore main。
需要 owner 决策:安全敏感,并且包含前端(前端部分必须由 Claude Opus 5.5 完成)。
上游提交
c6741c36feat(channel): add a per-channel switch to skip upstream TLS verification(16 个后端文件、13 个前端文件)
改了什么,对 LMM 的意义
上游原来只有全局的 insecure TLS 开关,现在改为可以按渠道跳过证书校验(自签名的私有上游)。fork 已通过 #617 移植 feefe09f(隔离 TLS config),在此基础上做渠道级开关的冲突较小。
fork 中的位置
apps/api-go/relaykit/dto/channel_settings.go、apps/api-go/service/http_client.go、service/http_transport_policy.go、relay/channel/api_request.go、controller/channel-billing.go、controller/channel_upstream_update.go、controller/video_proxy.go、service/task_polling.go、relay/channel/gemini/relay-gemini.go、relay/channel/vertex/service_account.go、relay/mjproxy_handler.go- 前端:
apps/web/src/features/channels/(drawer、lib/channel-form.ts、types.ts) - 上游的
relay/channel/task/jsplugin/adaptor.go部分不移植(ADR)
冲突与风险
- 会降低安全性:建议只允许 root 开启,记录审计日志,默认关闭,UI 明确警示;
protected_fetch_client的 SSRF 防护不能被绕过。 - Rust 侧需要同一字段的 parity,或者明确拒绝。
测试
按 FORK.md 需要跑:
cd apps/api-go && go test ./... && go vet ./...cd apps/api-go/relaykit && go test ./... && go vet ./...cd apps/api-go && CGO_ENABLED=0 go build ./...(生产构建)- 钱包/计费 race 测试:
go test -race ./model/... ./service/... ./controller/...(至少覆盖改动包) - 迁移 dry-run/rollback(本 issue 若不涉及 schema 则注明跳过原因)
- provider-path 检查:对涉及的 Claude / Gemini / OpenAI Chat / Responses 路径各跑一次转换 golden 测试或实际请求
cd apps/web跑 typecheck、lint、单测和生产构建(just lint/just test/just build或 apps/web 的 package scripts)- 桌面和移动宽度各做一次视觉检查;保留 NOTICE 归属和上游/LIghtJUNction 文件头规则
- 前端工作必须由 Claude Opus 5.5 完成。
工作量
中:后端约 1 天,前端约 0.5 天。
由 bot 根据 upstream 两个月审查生成(完整表:/workspace/apilmm/upstream_review_2mo.md,fork main b4600b4c,upstream head 42e694eb)。只是 issue,未写代码、未开 PR。
#823 — [upstream-port][evaluate] 上游大型 i18n:前端控制台消息与后端 AI 客户端错误翻译 (#7712)
来源:#823
查看原始正文
开发主线交接(2026-10-12)
开发默认主线现为 wip/rust-core-go-extensions;旧单体 main 与 traditional 冻结于 3948a0a1ee1cefdd016a7aa45a11851545bb4b85。分支交接不是发布、部署或验收通过。原问题、源码基线、测试与未完成项保留;旧单体路径仅作历史证据,后续先在微服务源码重新确认并按职责移植,不回灌旧数据库/权限/资金实现。
主线/S11 跟踪:#895。Extore 商品同步:#894,未验收,禁止部署,尤其禁止合并/推送 Extore main。
需要 owner 决策:244 个后端文件、44 个前端文件。前端部分必须由 Claude Opus 5.5 完成。
上游提交
128089fa(#7712) feat(i18n): translate web console messages in the frontend and AI-client errors in the backend
改了什么,对 LMM 的意义
后端把面向 AI 客户端的错误改成 i18n key 并按语言翻译;控制台消息改由前端翻译。LMM 有多 locale 用户(#213/#219 漏译),统一错误翻译是有价值的。
fork 中的位置
apps/api-go/i18n/、几乎所有 controller/、middleware/、relay/ 中返回错误的地方;前端 apps/web/src/i18n/、apps/web/src/lib/ 中的错误处理。
冲突与风险
- 冲突面极大,与 fork 自有的 assistant、支付、HeroSMS、bounty 错误文案和错误码合约冲突;AI 客户端依赖的错误
code/type不能变。 - 建议只取机制(i18n key 与客户端语言协商),fork 自己的消息分批迁移,不整体 cherry-pick;Rust 侧错误要保持一致。
测试
按 FORK.md 需要跑:
cd apps/api-go && go test ./... && go vet ./...cd apps/api-go/relaykit && go test ./... && go vet ./...cd apps/api-go && CGO_ENABLED=0 go build ./...(生产构建)- 钱包/计费 race 测试:
go test -race ./model/... ./service/... ./controller/...(至少覆盖改动包) - 迁移 dry-run/rollback(本 issue 若不涉及 schema 则注明跳过原因)
- provider-path 检查:对涉及的 Claude / Gemini / OpenAI Chat / Responses 路径各跑一次转换 golden 测试或实际请求
cd apps/web跑 typecheck、lint、单测和生产构建(just lint/just test/just build或 apps/web 的 package scripts)- 桌面和移动宽度各做一次视觉检查;保留 NOTICE 归属和上游/LIghtJUNction 文件头规则
- 前端工作必须由 Claude Opus 5.5 完成。
- 加跑
node --test .agents/skills/i18n-translate/scripts/apply-translations.test.mjs。
工作量
大:约 5+ 天(分批)。
由 bot 根据 upstream 两个月审查生成(完整表:/workspace/apilmm/upstream_review_2mo.md,fork main b4600b4c,upstream head 42e694eb)。只是 issue,未写代码、未开 PR。
#824 — [upstream-port][backend] 后端杂项:参数覆盖正则、缓存 token 细分、countTokens 路由、ETag、日志敏感字段、状态采样
来源:#824
查看原始正文
开发主线交接(2026-10-12)
开发默认主线现为 wip/rust-core-go-extensions;旧单体 main 与 traditional 冻结于 3948a0a1ee1cefdd016a7aa45a11851545bb4b85。分支交接不是发布、部署或验收通过。原问题、源码基线、测试与未完成项保留;旧单体路径仅作历史证据,后续先在微服务源码重新确认并按职责移植,不回灌旧数据库/权限/资金实现。
主线/S11 跟踪:#895。Extore 商品同步:#894,未验收,禁止部署,尤其禁止合并/推送 Extore main。
上游提交
04c597bf(#7698) feat: support regex conditions in advanced parameter overrides3cea2bf7feat(relaykit): preserve cached input token breakdowns81336fc6(#7388) fix(gemini): reject :countTokens as an unknown route instead of relaying it as generateContent36dbbf0ffix: keep ETag valid across different JSON packages1ca79d57fix(pricing): show recent status samples without gaps(后端 perf_metrics + 少量前端)057f71c2fix(logs): isolate privileged metadata +9f506dd7refactor(logs): dedupe sensitive keys(评估)9a867442fix(db): avoid redundant schema migrations on restart(评估)
改了什么,对 LMM 的意义
- 04c597bf:参数覆盖条件支持正则,渠道运维更灵活。
- 3cea2bf7:保留 cached input 细分(如 cache_creation 和 5m/1h),缓存计费更准,与 fix(web): recalculate cache token price estimates #812 的缓存价格估算相关。
- 81336fc6:Gemini
:countTokens目前被当作 generateContent 转发,会产生计费,是需要修的 bug。 - 36dbbf0f:fork 使用可替换的 JSON 包时 ETag 会失效。
- 1ca79d57:状态采样序列补齐空档。
- 057f71c2/9f506dd7:普通用户可见日志中隔离管理员元数据;fork 已通过 [Security][Go] Redact raw upstream stream errors from logs and consume metadata #292 做过部分脱敏,需要对照。
- 9a867442:重启时跳过多余的迁移;必须与 fork 的 pgroll/迁移演练兼容。
fork 中的位置
apps/api-go/relay/common/override*.go、relaykit/dto/(usage)、relay/channel/gemini/、router/relay-router.go、middleware/ 的 ETag、pkg/perf_metrics/、controller/perf_metrics.go、model/log.go、controller/log.go、model/main.go
冲突与风险
- 81336fc6 改变路由,需要 Rust parity。057f71c2 改日志投影,必须保持 Go/Rust 日志 API parity(feat(logs): add optional token-log pagination without breaking Go/Rust parity #455)。
- 9a867442 涉及迁移,必须跑 migration dry-run/rollback;与 Redis-off 本地 SQLite 运行时兼容。
- 1ca79d57 的前端部分必须由 Claude Opus 5.5 完成。
测试
按 FORK.md 需要跑:
cd apps/api-go && go test ./... && go vet ./...cd apps/api-go/relaykit && go test ./... && go vet ./...cd apps/api-go && CGO_ENABLED=0 go build ./...(生产构建)- 钱包/计费 race 测试:
go test -race ./model/... ./service/... ./controller/...(至少覆盖改动包) - 迁移 dry-run/rollback(本 issue 若不涉及 schema 则注明跳过原因)
- provider-path 检查:对涉及的 Claude / Gemini / OpenAI Chat / Responses 路径各跑一次转换 golden 测试或实际请求
工作量
中:约 2 天,可拆成 2–3 个小 PR。
由 bot 根据 upstream 两个月审查生成(完整表:/workspace/apilmm/upstream_review_2mo.md,fork main b4600b4c,upstream head 42e694eb)。只是 issue,未写代码、未开 PR。
#926 — [upstream-port] 性能监控过载哨兵改用容器 cgroup 口径,并加连续采样与新鲜度判定(new-api #7317 / 09109ec3)
来源:#926
查看原始正文
上游变更
- 提交:QuantumNous/new-api@09109ec3(new-api#7317)
fix(middleware): 过载哨兵改用容器口径并加入连续性与新鲜度判定 - 规模:+556/−45,4 个文件(
common/container_usage.go新增、common/system_monitor.go、common/system_monitor_test.go新增、middleware/performance.go)
上游改了三件事:
- CPU 和内存按容器 cgroup 配额算(v2
cpu.max/cpu.stat/memory.max/memory.current/memory.stat,兼容 v1),拿不到时回退宿主机口径。内存用工作集(用量减inactive_file),和 docker stats、kubelet 口径一致。 - 连续 3 次采样(约 15 秒)都超阈值才判过载,任一次回落立即恢复,单次尖峰不再直接 503。
- 采样超过 30 秒没刷新就不熔断,中间件改为调用
common.CheckSystemOverload(status, config, now),并按当前阈值复核(运行时调高或关闭阈值立即放行)。错误码system_*_overloaded和 503 语义不变。
为什么对 LMM API 重要
LMM 生产是容器化部署。开启性能监控时,/proc/stat 暴露的是宿主机全部核心的占用,同节点其他负载会把它推高,导致正常 relay 流量被 503 system_cpu_overloaded 拒绝;而且现在是单次采样即熔断。
对照 api.lmm.best 现状(main / 3948a0a1)
apps/api-go/middleware/performance.go:仍是旧逻辑,单次采样直接按阈值返回 503。apps/api-go/common/system_monitor.go:- 内存已经部分改进:先用
pkg/sysinfo.ReadProcessMemory()(进程内存),失败才回退mem.VirtualMemory()。这和上游的 cgroup 工作集口径不同,移植时需要决定保留哪个,或合并(建议核对pkg/sysinfo是否已 cgroup 感知,避免重复实现)。 - CPU 仍是
cpu.Percent(0,false)宿主机口径。 - 没有
SampledAt、连续性计数和新鲜度判定。 - fork 已有
RunSystemMonitor(ctx)(可取消、关闭时 30s 间隔),上游仍是无 ctx 的 goroutine。移植时要保留 fork 的 ctx 结构,只合入采样和判定逻辑。
- 内存已经部分改进:先用
- 默认分支
wip/rust-core-go-extensions上没有apps/api-go/common/system_monitor.go,需要先确认 Go 扩展在该分支上的对应位置,再决定落在哪个分支。
路径映射
| 上游 | api.lmm.best |
|---|---|
common/container_usage.go |
apps/api-go/common/container_usage.go(新增,或并入 apps/api-go/pkg/sysinfo) |
common/system_monitor.go |
apps/api-go/common/system_monitor.go |
common/system_monitor_test.go |
apps/api-go/common/system_monitor_test.go |
middleware/performance.go |
apps/api-go/middleware/performance.go |
风险与冲突
- 和 fork 的
pkg/sysinfo进程内存口径冲突,需要选定一个口径并保留回退。 - 上游用了
strings.SplitSeq和内置min,需确认 fork 的 Go 版本(≥1.24)。 - 行为变化:过载触发会推迟约 15 秒,且采样过期时放行。这是有意的,但应在 PR 描述中写明。
- 不涉及钱包边界、支付、订阅、助手、HeroSMS、悬赏合约,也不涉及 1 USD = 500000 credits 和 Redis-off 运行时;不涉及 task/JS 插件宿主。纯后端,无前端改动。
建议测试
cd apps/api-go && go build ./... && go test ./common/... ./middleware/...- 移植上游
system_monitor_test.go(cgroup v1/v2 夹具、工作集、连续采样、过期采样、运行时阈值变化) - 若保留
pkg/sysinfo,补一条两种内存口径的优先级用例
工作量
小到中(约 0.5 人日),主要在合并 fork 已有的进程内存口径和 ctx 化监控循环。
由 lightbot 每小时维护任务自动创建。
Activity