Files
moyi-model-intelligence-hub/docs/29-cpr-gap-analysis-and-optimization-plan.md
T
xppandClaude Opus 5.5 2e53b1d9c8 fix:"规范音视频任务结果并按真实能力标识音频执行"
- 新增 AsyncTaskResponseNormalizer:解析 content/result/嵌套 data 回执与 {url} 对象,仅白名单媒体字段,裸字符串只接受 URL
- 视频/音频上游完成但无结果文件时标记 deliveryStatus=pending,结算一次、不重发不退款
- 目录与执行共用 AsyncMediaSupport.supportsSpeech;非 TTS 音频、专用渠道任务类型错配、非法语音参数在发送前拒绝
- 任务响应返回 taskType/completedAt,前端以持久任务类型优先,补音频 MIME、签名 URL 与未交付提示
- 新增 29 号 CPR 差距分析与优化方案文档,更新 24 号任务表 MED-01/02/03

验证:mvn -B -o clean verify 399 项通过(独立 PostgreSQL/Redis);前端构建与 27 项测试通过

Co-Authored-By: Claude Opus 5.5 (1M context) <noreply@anthropic.com>
2026-10-22 11:48:47 +08:00

155 lines
16 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# CPR 及开源网关差距分析与深度优化方案
整理日期:2026-10-22(Asia/Shanghai)。本文合并两轮只读比对结论,作为后续优化的方案基线;实施进度以 `24-security-and-cpr-task-tracker.md` 为准。
## 任务来源
用户需求:对比当前版本与 CPR([Codex Proxy RS](https://github.com/zyycn/codex-proxy-rs))最新版的差距,确认 MOYI 是否基于 New API、Sub2API 或其他项目改造,与最新仓库比对,先分析差距,再对产品做深度优化。
第一轮比对时尚未确认 “cpr” 的具体指代,曾临时核查 CPA(CLIProxyAPI)和 CRS(Claude Relay Service);第二轮由用户确认为 Codex Proxy RS 后重新做了源码、架构与发布记录比对。两轮均为只读分析,没有修改代码、部署 CPR 或发起付费调用,也没有做同环境性能测试。
## 一、核心结论
- MOYI 不是 New API、Sub2API 或 CPR 的直接 fork,是自研 Java/Vue 控制面;早期计划接入 Otari,后来逐步自研网关数据面。
- MOYI 在多模型产品管理、人民币钱包账本、价格快照、异步媒体任务方面已有自己的基础。
- 与 CPR 相比,明显不足的是 Codex 专用协议、上游账号调度、长请求处理、重试与故障恢复边界。
- 与 New API/Sub2API/Otari 相比,差距集中在协议转换完整性、企业组织权限、路由策略、复杂计费和生产治理。
- 建议:**保留 MOYI 产品控制面和账本,重整网关执行层;CPR 作为 Codex 专用能力的参考或可选内网上游,不整体替换。**
## 二、比对基线(当次锁定,非实时最新版)
| 对象 | 锁定版本 | 日期 | 说明 |
|---|---|---|---|
| MOYI | `7785cda` | 2026-10-13 | 本地与自有远端一致;之后的安全增量见 24 号文档 |
| CPR 正式发布 | [`v3.29.6`](https://github.com/zyycn/codex-proxy-rs/releases/tag/v3.29.6)(`af35cde3`) | 2026-10-20 | 比对主要依据 |
| CPR 主分支 | `78bc57c5`(标记 `v3.29.7`) | 2026-10-21 | 多 9 个提交,未发布正式 Release;插件 RPC v4→v5,已有插件需重编译 |
| [New API](https://github.com/QuantumNous/new-api/releases/tag/v1.0.0-rc.45) | `v1.0.0-rc.45` | 10-17 | 主分支 `206e0fa5`,多 16 个提交 |
| [Sub2API](https://github.com/Wei-Shaw/sub2api/releases/tag/v0.2.17) | `v0.2.17` | 10-16 | 主分支 `8f2cbb53`,多 7 个提交 |
| [Otari](https://github.com/mozilla-ai/otari/releases/tag/v0.30.1) | `v0.30.1` | 10-20 | 主分支 `ac172ab7`,多 19 个提交 |
| [CPA](https://github.com/router-for-me/CLIProxyAPI/releases/tag/v8.0.36) | `v8.0.36` | 10-21 | 主分支与发布一致 |
| [CRS](https://github.com/Wei-Shaw/claude-relay-service/releases/tag/v1.1.315) | `v1.1.315` | 09-10 | 主分支与发布一致 |
这些项目与 MOYI 没有共同版本线,不能用“落后多少提交”衡量,只比较能力、边界和验证程度。
## 三、项目来源判断
- 工程决策([04 号文档](04-open-source-baseline-and-development-nodes.md)):New API 仅参考产品功能和兼容性,不复制代码;Sub2API 参考共享额度、账号池和运营流程;Otari 原计划作为独立网关;用户、权限、钱包、模型目录、异步任务和双端控制台自研。
- Git 历史:产品定义与 Vue 原型 → Otari 开发基座 → TypeScript 认证服务 → 迁移至 Java。未见继承 New API/Sub2API 提交历史的证据,也未发现基于 CPR 改造的证据。此判断不等同于逐文件代码相似度或许可证法律审计。
- 运行架构已偏离早期设计:开发基座仍固定 Otari `v0.4.0`(`infra/otari/docker-compose.yml`),云端 Compose 不部署 Otari;Java 转发器直连供应商,自行处理协议、密钥选择、重试和流式响应(`provider/OpenAiCompatibleProvider.java`)。
因此不存在“升级 Otari 镜像”或“合并 New API/Sub2API 更新”的简单升级路径。
## 四、已具备的能力(10-13 版本)
Messages、Responses、Gemini 原生入口与 Embeddings;用户级共享 RPM/并发/预算;Key 到期、IP 白名单、周期预算;渠道账号健康、冷却、安全重试、会话亲和与有限故障切换;版本化售价、采购成本、缓存写入、上下文阶梯与人工成本对账;TOTP 与恢复码;运营告警;真实异步媒体执行、钱包冻结结算与部分图片 Token 计费。范围见 [19 号文档](19-enterprise-gateway-increment.md)。优化应完善已有体系,而非重建。
## 五、与 CPR 的差距
先明确边界:CPR 是“面向 Codex 的自托管多账号网关”,明确不支持 `/v1/chat/completions`,内置 Provider 仅 OpenAI 与 xAI,不是通用多协议平台。
| 能力 | CPR 当前实现 | MOYI 现状与差距 | 优先级 |
|---|---|---|---|
| Codex 协议兼容 | 专用模型目录、业务扩展头、推理历史、工具及原生请求兼容 | 通用模型列表与有限 Responses 入口 | P0 |
| WebSocket 与续接 | Responses WebSocket、连接复用、`previous_response_id` 归属、续接失效恢复、中断控制 | 无 WebSocket 入口,直接拒绝 `previous_response_id` | P0 |
| 长推理与大上下文 | 不设统一总时限,分别管理连接、空闲、取消和租约 | 同步上游最多 90 秒;原生请求最多 256 KiB;输出 Token 上限 32,768 | P0 |
| 重试安全边界 | 区分未发送/已发送/结果不明,以及是否已交付业务输出 | 有安全重试和有限切换,缺同等完整的发送/交付状态模型 | P0 |
| 账号池生命周期 | OAuth/API Key 账号、凭据刷新、额度窗口、模型权限、账号级并发 | 渠道 + Key 池轮换,缺独立上游账号实体 | P1 |
| 调度策略 | 智能、额度重置优先、轮询、粘性;综合负载、额度、健康、首输出延迟 | 轮换、固定冷却、会话哈希亲和;延迟未进入选路 | P1 |
| 公平排队 | 有界等待、同级 FIFO、优先级、取消回收、共享等待预算 | 同步请求约每 100 ms 重新争抢 Redis 槽位,无公平性保证 | P1 |
| 诊断与统计 | 逐 attempt、上下游关联、传输类型、调度原因、恢复耗时、费用来源 | 仅最终调用记录与账号健康 | P1 |
| 配置与工程边界 | 冻结请求配置快照;协议、执行、Provider、存储分层;架构依赖测试与安全流水线 | 价格有快照,网关职责集中,缺统一执行合同和同等门禁 | P1 |
参考:CPR [架构文档](https://github.com/zyycn/codex-proxy-rs/blob/af35cde3744b7afc81c4ad6e1e9c9c76bbbd68b8/docs/architecture.md)、[数据面接口文档](https://github.com/zyycn/codex-proxy-rs/blob/af35cde3744b7afc81c4ad6e1e9c9c76bbbd68b8/docs/api.md)。
直接影响客户体验的三点:
1. **Responses 只是有限支持。** `gateway/NativeProtocolMeter.java` 明确拒绝云端续接、图片、文件、多种托管工具和服务档位,并固定限制请求体与输出 Token。简单文本可成功,长对话、图像、复杂工具和客户端恢复未必通过,不能宣传“完整支持 Codex”。
2. **会话亲和不等于有状态续接。** `provider/UpstreamHealth.java` 用 `X-Moyi-Session` 选择账号,冷却后会重新选择。支持增量续接时必须记录响应所属账号、凭据版本和连接,不能把 A 账号的响应 ID 交给 B 账号。
3. **排队与诊断不足以支撑企业 SLA。** `resources/redis/acquire-pair.lua` 获取槽位时不检查排队先后,持续竞争下新请求可能先于旧请求;只有最终错误和总耗时,无法区分慢在排队、建连、冷却还是生成。
## 六、与 New API/Sub2API/Otari 等的差距
“部分具备”指已有实现但覆盖或管理闭环不足。
| 维度 | MOYI 现状 | 主要差距 | 优先级 |
|---|---|---|---|
| 协议转换 | 原生透传 + 统一用量扣费 | New API RelayKit、Sub2API 有更完整的跨协议转换 | P0 |
| 编程客户端兼容 | 基础文本与函数工具,子路径少 | 缺 Responses WebSocket、compact 等入口;CPA 持续修复工具调用、推理和协议差异 | P0 |
| 多模态与托管工具 | 聊天入口拒绝图片、文件、音频、托管搜索 | 缺视觉聊天、文档理解、托管工具的协议与计费闭环 | P0/P1 |
| 身份与会话安全 | 密码、验证码、TOTP | 10-13 版本缺登录限速、统一密码策略、改密撤销会话(后续已补,见第九节) | P0 |
| 组织与权限 | 用户、三个全局角色、个人项目 | 缺组织、成员、项目角色、共享资源、企业 SSO 与离职回收;Otari 有组织/工作区治理 | P1 |
| 路由策略 | 有限备用路由、优先级、冷却 | 缺按成本、延迟、权重、容量、预算组合的策略及解释 | P1 |
| 上游账号池 | 环境变量 Key 池、轮换、健康指纹 | 缺账号生命周期、额度窗口、账号级容量、可视化轮换 | P1 |
| 定价与计量 | Token、缓存、部分阶梯、固定任务费、图片 Token | 缺视频时长/分辨率、音频、托管工具、服务档位;New API 有表达式计费 | P1 |
| 成本核对 | 快照、采购成本、人工核对 | 缺账单导入、自动匹配、差异归因、毛利预警 | P1 |
| 异步结果交付 | 数据库任务、轮询、部分媒体执行 | OSS 主要是配置预留;缺产物托管、授权下载、生命周期、批量与回调 | P1 |
| 可观测性 | 用量、容量快照、账号健康、错误率告警 | 缺链路追踪、逐 attempt、SLO、企业/项目聚合、日志留存治理 | P1 |
| 商业运营 | 管理员入账、对公合同付款 | 自助支付、订阅、退款不如 New API/Sub2API;与 B/G 定位不同,非首要 | P2 |
| 工程交付 | 单元测试、隔离数据库脚本、发布工具 | 缺自动化兼容矩阵与持续安全门禁;README 与实现不同步 | P1 |
上游近期更新中值得转成 MOYI 回归用例的风险场景(不表示 MOYI 一定存在相同缺陷):
- New API:Claude 显式零用量、全缓存请求计费、Vidu 按实际模型/时长/分辨率计费;任务重试前重新定价和预留、查询重定向凭据的主机限制、Redis 脚本被清空后的恢复。重点验证“字段缺失”与“明确为零”不混同。
- Sub2API:Gemini 流中途断开计费、缓存计数导致负输入 Token、异步图片转存策略。
- CPA:并行工具调用、推理 Token、结束原因、Gemini thought signature、首 Token 延迟统计,这类问题容易被“HTTP 200 测试”漏掉。
- Otari:权重/条件/预算路由、组织工作区、策略解释与追踪。
## 七、不能照搬 CPR 的地方
- **额度不是严格预付费钱包。** CPR 准入只检查已结算金额、不预占;并发请求可使最终金额超限;无法取得费用的尝试按零累计且不建待核账记录;结算暂存重试依赖进程内状态([budget.rs](https://github.com/zyycn/codex-proxy-rs/blob/af35cde3744b7afc81c4ad6e1e9c9c76bbbd68b8/backend/crates/gateway-core/src/engine/budget.rs#L34))。MOYI 的钱包锁、预占、价格快照和待对账状态(`wallet/ChatBillingService.java`)应保留并强化。
- **凭据保护不能降级。** CPR Provider 凭据以明文 JSON 保存;MOYI 使用 AES-GCM。
- **不能直接横向扩容。** CPR 官方限定单进程单副本,含进程内队列、连接池和状态。
- **不能替代产品控制面。** CPR 只有管理员与 Key 持有者身份,没有用户、角色、人民币钱包、项目和媒体任务体系。
- **业务备份不等于审计备份。** CPR `v3.29.6` 业务归档排除请求明细、诊断与审计日志,B/G 端须独立制定审计留存与备份策略。
- **不能因 Rust 断言更快。** 未做同环境性能测试。
- **许可证。** 参考或复用代码时须分别处理 New API(AGPL)、Sub2API(LGPL)及 Otari/CPA/CRS/CPR 的实际许可证。
## 八、深度优化方案
原则:保留 Java/Vue、现有账户和钱包账本,先明确数据面边界,不整体重写为某个开源项目。直接换底座会同时带来账户迁移、历史金额、Key、审计和许可证风险。MOYI 钱包始终是唯一用户财务事实来源,不让两套系统各自扣费。
### 第一阶段:安全与统一执行底座
- 安全:登录分布式限速、统一密码策略、改密撤销会话、用户停用、任务 scope/项目隔离、Provider 出站限制、管理接口授权审查。
- 统一请求生命周期,重试、断线、取消、服务重启都进入同一流程,不由各 Controller 分别处理:
`准入 → 冻结权限与价格 → 排队 → 上游尝试 → 交付 → 结算/待核账`
- 不能只把 90 秒超时改长。同步请求租约 3 分钟、钱包预留默认 5 分钟到期;放开长任务必须同时设计租约续期、预留恢复和结算逻辑,否则引入资金与并发问题。
- 协议解析、流事件、工具调用、用量归一化从业务 Controller 中分离;错误格式分别符合 Anthropic、OpenAI、Gemini 约定。
### 第二阶段:Codex 兼容通道与兼容矩阵
- 优先完成 Responses WebSocket、模型能力目录、会话与续接归属、工具/图片输入、长流和取消。
- 建立“客户端 × 协议 × 上游 × 能力”验收矩阵,指定客户端版本、模型、工具和计费联合验收。
- 可选小范围验证:仅 Codex 路由接内网 CPR,Chat、Messages、Gemini、3D/媒体仍走原适配器。不能只改 Base URL:MOYI 当前会在转发前拒绝大量原生请求,还需对接请求关联、用量、重试和费用合同。
- 用同一测试集比较“继续自研”与“接入独立网关”的成本后再定底座。
### 第三阶段:账号调度与组织权限
- 将“渠道下多个字符串 Key”升级为受控、加密、可审计的独立账号资源:凭据版本、模型范围、容量、额度、健康。
- 先做可解释的加权策略,再引入延迟、失败率、额度重置信号;补公平排队(FIFO、取消回收、共享等待预算)。
- OAuth 订阅账号池为可选能力,不作为 B/G 客户 SLA 默认基础,须先核实上游授权和服务条款。
- 组织、成员、项目角色、项目钱包/预算、资源归属、企业 SSO;保留个人账号作为兼容入口,授权在后端统一执行。
### 第四阶段:财务、媒体与生产治理
- 定价使用版本化规则、试算和审核发布;补视频时长/分辨率、音频、托管工具计费;账单自动匹配与差异告警独立于用户扣费。
- 媒体:OSS 产物、短期下载授权、留存删除、任务回调与恢复。
- 治理:逐 attempt 诊断、链路追踪、SLO、企业/项目用量、数据留存、备份恢复演练、依赖扫描、协议回归、发布门禁。
- 模型状态拆分为:目录已登记 → 凭据已配置 → 协议已验证 → 计费已验证 → 生产可用,并记录验证日期与证据。10-13 部署记录为 315 个公开分组、226 个配置就绪、39 个暂缓、50 个待核实,“配置就绪”不等于真实调用验收。
## 九、实施映射与当前进度
各项已拆为 24 号文档中的任务 ID,进度只在该表更新:
| 方案内容 | 任务 ID |
|---|---|
| 第一阶段安全 | SEC-01~SEC-07 |
| 长请求与续租、Codex 协议、WebSocket 续接 | COD-01~COD-03 |
| 账号生命周期、公平排队 | SCH-01~SCH-02 |
| 诊断、配置版本、门禁;CPR 可选部署 | OPS-01~OPS-02 |
| 音视频回执、协议、展示、计费、鉴权下载 | MED-01~MED-05 |
截至 2026-10-22,SEC-01/02/03 已实现并验证(25、27、28 号文档),SEC-06 完成本地代码边界(26 号文档),其余 COD/SCH/OPS/MED 项未完成。未部署、未真实供应商验证的项保持未完成标记,不宣称“完整支持 Codex”或“全仓库安全”。