diff --git a/README.md b/README.md index 7d22c36..c8cb4a8 100644 --- a/README.md +++ b/README.md @@ -54,45 +54,43 @@ | 阶段 | 产品形态 | 主要用户 | 核心价值 | |---|---|---|---| -| 第一阶段 | 共享额度多模型调用服务 | 模灵科技内部业务与 AI SoulMate,随后是个人开发者、小型团队和早期 AI 应用 | 先服务自身业务,再验证低门槛调用多类型模型 | -| 第二阶段 | 企业级 AI Gateway | 企业研发团队、应用平台团队 | 统一控制模型、权限、成本和稳定性 | -| 第三阶段 | 开发者 MaaS 平台 | AI 应用团队、模型提供方、企业开发者 | 模型目录、评测、知识库和应用开发一体化 | +| 第一阶段 | C 端自助式多模型 API 聚合平台 | 模灵科技内部业务与 AI SoulMate,随后是个人开发者和早期 AI 应用 | 像使用开发者云服务一样发现、试用和调用多类型模型 | +| 第二阶段 | 开发者与团队 AI Gateway | 小型团队、AI 创业公司、企业研发团队 | 统一管理工作空间、项目、权限、成本和稳定性 | +| 第三阶段 | MaaS 模型服务与 AI 应用开发平台 | AI 应用团队、模型提供方、企业开发者 | 模型目录、评测、数据、应用和模型服务一体化 | | 第四阶段 | 自托管模型云 | 对数据、性能和部署有更高要求的企业 | 自有模型、专属算力和私有化服务 | ```text -共享额度中转站 +C 端 API 聚合 ↓ -企业级 AI Gateway +开发者/团队 AI Gateway ↓ -开发者 MaaS 平台 +MaaS 模型服务与应用开发 ↓ 自托管模型云 ``` -## 五、第一阶段:共享额度模型中转站 +## 五、第一阶段:C 端自助式多模型 API 聚合平台 ### 产品形态 -第一阶段的模亦灵枢首先服务模灵科技自身业务和 AI SoulMate 等内部应用,再逐步面向个人开发者、小型 AI 团队、AI 创业公司和企业研发团队开放。 +第一阶段的模亦灵枢是一个面向 C 端开发者的自助式多模型 API 聚合平台。它首先由模灵科技内部业务和 AI SoulMate 进行真实使用,再逐步向个人开发者和早期 AI 应用开放。 -用户注册平台或由内部项目接入后获得统一账户和 API Key,通过一个 API 地址调用平台提供的多类型模型。统一 API 提供一致的鉴权、模型发现和调用入口,同时保留不同模型类型所需的输入输出 schema 与能力参数。平台负责上游模型额度、模型路由、调用统计和用户额度管理。 +用户注册后可以浏览模型广场、查看模型详情、领取或购买额度、创建 API Key、阅读接入文档,并通过统一 API 地址调用平台提供的多类型模型。统一 API 提供一致的鉴权、模型发现和调用入口,同时保留不同模型类型所需的输入输出 schema 与能力参数。内部项目则可以通过项目身份接入,不必先经过外部注册流程。 这一阶段的重点不是做复杂的模型训练,而是让内部项目和外部用户能够稳定、透明、低门槛地使用文本、图片、音频、视频、Embedding、3D 生成等不同类型的模型。 ### 主要产品内容 -- 多家模型供应商接入。 -- 统一模型列表和模型名称。 -- 统一 API 外壳、模型发现和调用入口。 +- 面向 C 端的首页、模型广场、模型详情和接入文档。 +- 多家模型供应商接入及统一模型目录。 +- 统一 API 外壳、API Key 和 SDK/示例接入方式。 - 普通响应、流式响应和异步任务响应。 - 3D 生成等任务型模型的任务提交、进度查询、结果文件和失败处理。 -- 模型选择和基础路由。 -- 基础速率限制、并发控制、排队和任务状态。 -- 用户余额、套餐和共享额度(具体规则待定)。 -- Token、图片张数、音视频时长、任务次数、GPU 时间或其他模型资源的用量统计。 -- 调用记录、费用明细和余额流水。 -- 基础限流、故障切换和服务状态。 -- 开发文档、调用示例和在线测试。 +- 基础模型搜索、分类、能力标签、价格/额度说明和服务状态。 +- 基础速率限制、并发控制、排队、故障切换和任务状态。 +- 用户账户、额度余额、用量统计和调用日志。 +- Playground 或在线 API 调试入口。 +- 充值/套餐等商业能力先保留产品位置,具体规则确定后再接入真实支付。 ### 用户获得的体验 @@ -109,11 +107,11 @@ - 余额、并发、速率和项目预算的限制。 - 充值、退款、支付渠道、发票和对账方式。 -## 六、第二阶段:企业级 AI Gateway +## 六、第二阶段:开发者与团队 AI Gateway ### 产品形态 -第二阶段的模亦灵枢不再只是一个面向个人的中转站,而是企业内部统一管理模型调用的 AI 控制中心。 +第二阶段的模亦灵枢从个人开发者的自助式 API 平台扩展为团队和企业统一管理模型调用的 AI 控制中心。 企业可以把多个应用、多个团队和多个模型供应商接入同一个平台,由模亦灵枢统一管理调用权限、预算、路由策略、日志和服务质量。 @@ -138,7 +136,7 @@ - BYOK 网关服务。 - 私有环境部署服务。 -## 七、第三阶段:开发者 MaaS 平台 +## 七、第三阶段:MaaS 模型服务与 AI 应用开发平台 ### 产品形态 @@ -282,7 +280,7 @@ - 英文名称:MOYI Model Intelligence Hub - 产品口号:一处接入,连接多模。 - 英文口号:One Gateway for Every Model You Use. -- 当前阶段:第一阶段,先服务内部业务并验证共享额度多模型调用服务 +- 当前阶段:第一阶段,先由内部业务验证面向 C 端的自助式多模型 API 聚合平台 - 长期目标:面向开发者和企业的完整 MaaS 平台与自托管模型云 - 代码仓库:[MOYI-Model-Intelligence-Hub](http://39.106.119.229:3000/MLKJ/MOYI-Model-Intelligence-Hub) diff --git a/docs/01-product-definition-and-prototype.md b/docs/01-product-definition-and-prototype.md index 225ddcc..1424490 100644 --- a/docs/01-product-definition-and-prototype.md +++ b/docs/01-product-definition-and-prototype.md @@ -6,7 +6,7 @@ - 阶段:阶段 1——需求分析与产品定义 - 当前版本:`v0.1-draft` - 状态:待评审 -- 目标:明确第一阶段共享额度多模型调用服务的产品范围和核心使用路径 +- 目标:明确第一阶段 C 端自助式多模型 API 聚合平台的产品范围和核心使用路径 ## 一、阶段目标 @@ -16,16 +16,29 @@ 2. 用户为什么使用模亦灵枢。 3. 用户完成一次模型调用需要经过哪些步骤。 4. 第一版做什么、不做什么。 +5. 第一版如何为后续团队网关和 MaaS 平台保留扩展空间。 阶段结束后,应形成可以交给交互设计和视觉设计继续执行的产品定义与原型需求说明;可视化原型通过评审后,才进入系统架构设计。 +### 产品定位参考 + +第一阶段参考 [Geek2API](https://www.geek2api.com/) 这类面向 C 端开发者的 API 聚合产品形态,重点解决“发现模型—获取额度—创建 Key—完成调用—查看用量”的自助使用闭环。 + +长期演进参考以下 MaaS 产品的能力边界,但不在第一阶段一次性实现: + +- [阿里云百炼 Model Studio](https://help.aliyun.com/zh/model-studio/what-is-model-studio):模型服务、模型部署与评测、应用构建、知识库和工作空间等能力。 +- [火山方舟](https://www.volcengine.com/docs/82379/seedream?lang=zh):模型推理、评测、精调、Prompt、工具调用和应用开发等全流程能力。 + +上述产品只作为产品边界和演进方向参考,不代表模亦灵枢复制其页面、功能命名或第一版范围。 + ## 二、第一阶段产品定义 ### 产品形态 -第一阶段的模亦灵枢是一个“统一多类型模型调用服务”,首先服务模灵科技内部业务和 AI SoulMate 等内部应用,再逐步向外部用户开放: +第一阶段的模亦灵枢是一个面向 C 端开发者的“自助式统一多类型模型 API 聚合平台”。模灵科技内部业务和 AI SoulMate 是首批真实使用者,产品形态仍按照后续可以公开注册和自助使用来设计: -- 内部项目或外部用户获得统一账户和 API Key。 +- 访客可以浏览模型广场、模型能力、价格/额度说明和接入文档。 +- 内部项目或外部用户获得统一账户、额度和 API Key。 - 用户查看平台提供的模型、价格和服务状态。 - 用户创建平台 API Key。 - 用户通过统一 API 外壳调用文本、图片、音频、视频、Embedding、3D 生成等不同类型模型;每类模型保留自己的输入输出 schema 和能力参数。 @@ -33,10 +46,22 @@ - 对 3D 生成等任务型模型,用户可以提交任务、查询进度、获取结果文件并处理失败或取消。 - 平台根据实际用量扣减共享额度。 - 用户可以查看调用量、费用和余额变化。 +- 具体支付方式未确定前,第一版可以先通过管理员发放额度或试用额度完成使用闭环。 ### 核心价值 -让内部项目和外部开发者不需要分别购买、配置和维护多个模型供应商的调用入口,通过一次接入即可使用多种类型模型,并能以统一方式管理同步调用和异步生成任务。 +让内部项目和 C 端开发者不需要分别购买、配置和维护多个模型供应商的调用入口,通过一个账户、一组 API Key 和统一接入方式即可使用多种类型模型,并能自助查看模型、文档、任务、用量和额度。 + +### 第一阶段产品构成 + +| 产品面 | 第一阶段承担的职责 | 面向对象 | +|---|---|---| +| 公开站点 | 品牌介绍、模型广场、模型详情、计费/额度说明、文档、服务状态和注册入口 | 访客与潜在用户 | +| 开发者控制台 | 总览、API Key、模型体验、调用日志、异步任务、额度和账户安全 | C 端开发者与内部项目成员 | +| 统一模型 API | 鉴权、模型发现、同步/流式/异步调用、限流、排队、路由和用量记录 | 应用程序与开发者 | +| 最小运营后台 | 用户、供应商、模型、渠道、额度、调用和风险管理 | 平台运营人员 | + +第一阶段的完整闭环是:用户能够自行了解产品、选择模型、获得额度、创建 Key、完成第一次调用,并能追踪调用结果和资源消耗。企业工作空间、模型评测、精调、应用编排等能力不进入第一阶段导航和主要流程。 ### 当前商业模式状态 @@ -169,6 +194,16 @@ | UR-009 | 用户希望在高峰期知道请求是排队、执行还是失败 | 并发限制、排队、任务状态、超时和容量提示 | P0 | 同步、流式和异步请求在容量不足时有明确且可预期的结果 | | UR-010 | 运营人员希望控制不同模型和供应商的资源 | 模型/供应商并发、速率、队列和资源配额 | P1 | 可按模型和供应商查看并调整容量策略 | +### 产品演进需求 + +| 需求编号 | 演进要求 | 第一阶段约束 | 后续承载能力 | +|---|---|---|---| +| ER-001 | 个人账户可以平滑升级到团队和企业工作空间 | 每个个人账户映射默认工作空间,业务数据不直接只绑定登录账号 | 组织、成员、项目、RBAC 和企业认证 | +| ER-002 | 模型类型和供应商可以持续扩展 | 模型能力、输入输出、版本、计量和调用模式由 schema/配置描述 | 模型仓库、模型服务、第三方与自托管模型统一管理 | +| ER-003 | API 网关不与支付或单一供应商强绑定 | 鉴权、适配、路由、计量和账务保持模块边界 | BYOK、专属资源、复杂路由和企业结算 | +| ER-004 | 异步任务和结果可以被其他平台能力复用 | 任务、结果文件、资产和用量使用独立标识 | 批量推理、模型评测、应用、工作流和精调任务 | +| ER-005 | 第一阶段页面不限制未来控制台结构 | C 端导航只展示当前可用模块,未开放模块不以空菜单占位 | MaaS 工作台、数据、评测、应用开发和模型部署 | + > 当前为需求矩阵初稿。正常流程、异常场景、非功能指标和测试用例将在需求评审中继续补齐。 ## 五、核心用户流程 @@ -256,36 +291,42 @@ ## 六、第一版产品信息架构 +本节描述第一阶段需要承载的页面任务和信息范围,用于原型设计,不是最终数据库字段或 API 参数清单。字段会在原型评审和详细设计中继续调整。 + ### 面向公众的页面 - 首页:介绍平台价值、支持模型和接入方式。 -- 模型目录:查看模型能力、价格、上下文和服务状态。 -- 模型详情需要展示输入输出格式、调用模式、任务型模型的状态流程和结果类型。 +- 模型广场:按模型类型、能力、调用模式和价格/额度筛选模型。 +- 模型详情:说明能力、输入输出、调用模式、计量方式、服务状态、示例和限制。 +- 计费与额度说明:规则未确定时保留入口并展示试用/内测说明,确定后再展示真实套餐和价格。 - 文档中心:提供快速开始、API 参考和示例代码。 - 服务状态:展示供应商和平台服务状态。 - 登录/注册:进入用户控制台。 ### 用户控制台 -- 总览:余额、今日用量、请求次数、常用模型和服务状态。 +- 总览:额度、今日用量、请求/任务概况、快速开始和服务状态。 - API Key:创建、查看、禁用和轮换 Key。 -- 模型:查看可用模型、能力、价格和调用说明。 -- 用量:按时间、模型、项目查看调用量和成本。 +- 模型广场:登录后直接试用模型、查看调用示例或创建 Key。 +- Playground:在线测试模型,完成从体验到代码调用的过渡。 +- 调用日志与用量:按时间、模型和 Key 查看请求、资源消耗和错误。 - 任务与结果:查看异步任务状态、失败原因、结果文件和下载/再次调用入口。 -- 账单:充值、套餐、消费流水和退款记录。 -- Playground:使用平台模型进行简单测试。 +- 额度与账务:额度余额、发放/充值记录、消费流水;真实支付和退款待规则确定后启用。 +- 账户与安全:基础资料、登录方式和安全设置。 - 文档:查看接入代码和常见问题。 -### 运营后台 +### 最小运营后台 -- 运营总览:用户、请求、收入、成本、余额和告警。 +- 运营总览:用户、请求、任务、额度、成本和告警。 - 用户管理:用户状态、额度、风险和调用记录。 -- 供应商管理:供应商账户、余额、限额和健康状态。 -- 模型管理:模型信息、上下架、能力和价格。 -- 路由管理:供应商优先级、权重、回退和限流。 -- 账务管理:充值、消费、退款、对账和异常流水。 +- 供应商与渠道:供应商账户、上游 Key、余额、限额和健康状态。 +- 模型管理:模型信息、能力 schema、上下架、计量单位和价格/额度规则。 +- 路由与容量:供应商优先级、权重、回退、限流、并发和队列。 +- 额度与账务:额度发放、消费、退款/冲正、对账和异常流水。 - 风控审计:异常用量、封禁、管理员操作和安全事件。 +第一阶段不在主导航中展示工作空间、企业组织、模型部署、模型评测、数据集、知识库、Prompt 工程、Agent 和工作流等 MaaS 功能。 + ## 七、低保真原型页面说明 ### P01:首页 @@ -303,14 +344,13 @@ **主要操作**:查看模型、注册、阅读文档。 -### P02:模型目录 +### P02:模型广场与模型详情 **目的**:帮助用户选择合适的模型。 **页面内容**: - 模型名称和供应商。 -- 模型类型:文本、视觉、Embedding 等。 - 模型类型:文本、视觉、Embedding、重排、图像、音频、视频、3D 和其他多模态模型。 - 调用模式:同步、流式或异步任务。 - 输入输出:文本、图片、音频、视频、3D 文件、结构化数据和结果文件类型。 @@ -426,6 +466,7 @@ - 多供应商路由和基础故障切换。 - Playground。 +- 模型收藏、对比和简单体验记录。 - 3D 结果的增强预览、资产管理和更复杂的异步编排。 - 充值、退款和套餐。 - 项目级 Key 和额度。 @@ -437,11 +478,15 @@ ### P2:后续阶段 - BYOK。 +- 个人默认工作空间向组织、团队和项目工作空间演进。 - 企业组织、团队和 RBAC。 - 企业认证和企业主体资料管理。 - 高级路由策略和 SLA。 - 知识库、RAG、Agent 和工作流。 -- 模型评测和模型市场。 +- Prompt 模板、版本管理和变量配置。 +- 评测集、模型评测、排行榜和模型选择建议。 +- 模型仓库、模型精调、部署和在线推理服务。 +- 模型提供方入驻和商业化模型市场。 - 自托管模型和 GPU 资源管理。 ## 九、第一阶段明确不做的内容 @@ -454,6 +499,15 @@ - 面向所有行业的复杂企业解决方案。 - 企业认证的完整业务闭环;第一版只预留用户类型、主体信息、认证状态和权限扩展字段。 +### 后续 MaaS 的预留原则 + +- **身份空间**:第一阶段以个人账户或内部项目为主,数据模型预留 workspace、organization、project 和 member 关系,避免以后把个人账户重构成企业账户。 +- **模型目录**:模型使用可版本化的模型卡和能力 schema,供应商、模型版本、输入输出类型、调用模式和计量单位不写死在页面代码中。 +- **统一 API**:网关 API 使用版本号和能力类型扩展;兼容 OpenAI 的能力可以兼容,但 3D、视频、音频等模型保留自己的请求、任务和结果协议。 +- **资源计量**:用量账本支持 Token、请求、任务、文件、时长、GPU 时间等资源类型,并关联用户、项目、模型、供应商和版本。 +- **任务与资产**:异步任务、结果文件和 3D 资产使用独立的任务/资产标识,为批量推理、评测和应用调用复用。 +- **平台模块**:为后续模型评测、数据集、Prompt、知识库、应用、Agent、工作流、精调和模型部署保留模块边界,但第一阶段不实现这些业务闭环。 + ## 十、阶段验收标准 阶段 1 通过评审需要满足: @@ -469,6 +523,7 @@ - 用户需求和产品需求之间可以追踪。 - 核心功能的正常、异常和边界场景已经形成闭环。 - 页面和流程不存在无法解释的关键状态。 +- C 端自助使用闭环完整,同时 ER-001—ER-005 的演进要求可由后续系统设计承接。 - 原型设计可以直接依据本文档继续展开。 ## 十一、待确认事项 diff --git a/docs/DEVELOPMENT_PROCESS.md b/docs/DEVELOPMENT_PROCESS.md index 3ff0e56..942e79d 100644 --- a/docs/DEVELOPMENT_PROCESS.md +++ b/docs/DEVELOPMENT_PROCESS.md @@ -153,6 +153,8 @@ - 选择技术栈和部署方式。 - 设计数据库、API 和事件模型。 - 设计认证、权限、密钥和数据保护方案。 +- 设计个人账户向工作空间、组织、项目和 RBAC 演进的数据关系。 +- 定义可版本化的模型目录、能力 schema、调用协议和供应商适配扩展点。 - 评估并发、延迟、成本、容灾和可观测性。 - 使用业务流程图确认需求理解,使用时序图确认跨系统交互。 - 对核心调用链提前制作技术验证或压测原型。 @@ -170,6 +172,7 @@ - 安全设计和威胁模型。 - 部署架构和环境说明。 - ADR 技术决策记录。 +- 产品演进视图和扩展点清单。 - 技术方案评审记录、工作量估算和交付计划。 #### 评审重点 @@ -177,6 +180,7 @@ - 是否覆盖 PRD 中的功能和质量要求。 - 模块职责是否清晰、依赖是否合理。 - 总体、概要和详细设计是否一致且可追溯。 +- 第一阶段的账户、模型、API、计量和任务设计是否会阻碍后续 MaaS 扩展。 - 计量、账本和权限是否可追溯。 - 供应商故障、重复扣费和数据泄露如何处理。