diff --git a/README.md b/README.md index 0274c80..0e46b01 100644 --- a/README.md +++ b/README.md @@ -54,7 +54,7 @@ | 阶段 | 产品形态 | 主要用户 | 核心价值 | |---|---|---|---| -| 第一阶段 | 共享额度模型中转站 | 个人开发者、小型团队、早期 AI 应用 | 低门槛调用多个模型 | +| 第一阶段 | 共享额度多模型调用服务 | 模灵科技内部业务与 AI SoulMate,随后是个人开发者、小型团队和早期 AI 应用 | 先服务自身业务,再验证低门槛调用多类型模型 | | 第二阶段 | 企业级 AI Gateway | 企业研发团队、应用平台团队 | 统一控制模型、权限、成本和稳定性 | | 第三阶段 | 开发者 MaaS 平台 | AI 应用团队、模型提供方、企业开发者 | 模型目录、评测、知识库和应用开发一体化 | | 第四阶段 | 自托管模型云 | 对数据、性能和部署有更高要求的企业 | 自有模型、专属算力和私有化服务 | @@ -73,35 +73,40 @@ ### 产品形态 -第一阶段的模亦灵枢是一项面向开发者的模型调用服务。 +第一阶段的模亦灵枢首先服务模灵科技自身业务和 AI SoulMate 等内部应用,再逐步面向个人开发者、小型 AI 团队、AI 创业公司和企业研发团队开放。 -用户注册平台后获得统一账户和 API Key,通过一个 API 地址调用平台提供的多个模型。平台负责上游模型额度、模型路由、调用统计和用户额度管理。 +用户注册平台或由内部项目接入后获得统一账户和 API Key,通过一个 API 地址调用平台提供的多类型模型。统一 API 提供一致的鉴权、模型发现和调用入口,同时保留不同模型类型所需的输入输出 schema 与能力参数。平台负责上游模型额度、模型路由、调用统计和用户额度管理。 -这一阶段的重点不是做复杂的模型训练,而是让用户能够稳定、透明、低门槛地使用模型。 +这一阶段的重点不是做复杂的模型训练,而是让内部项目和外部用户能够稳定、透明、低门槛地使用文本、图片、音频、视频、Embedding、3D 生成等不同类型的模型。 ### 主要产品内容 - 多家模型供应商接入。 - 统一模型列表和模型名称。 -- 统一 API 调用入口。 -- 普通响应和流式响应。 +- 统一 API 外壳、模型发现和调用入口。 +- 普通响应、流式响应和异步任务响应。 +- 3D 生成等任务型模型的任务提交、进度查询、结果文件和失败处理。 - 模型选择和基础路由。 -- 用户余额、套餐和共享额度。 -- Token 或其他模型资源的用量统计。 +- 用户余额、套餐和共享额度(具体规则待定)。 +- Token、图片张数、音视频时长、任务次数、GPU 时间或其他模型资源的用量统计。 - 调用记录、费用明细和余额流水。 - 基础限流、故障切换和服务状态。 - 开发文档、调用示例和在线测试。 ### 用户获得的体验 -用户不需要分别购买和管理多个模型服务,也不需要为每个供应商单独开发接入逻辑,只需要配置模亦灵枢的 API 地址和 API Key,即可开始调用多个模型。 +用户不需要分别购买和管理多个模型服务,也不需要为每个供应商单独开发接入逻辑,只需要配置模亦灵枢的 API 地址和 API Key,即可开始调用多个类型的模型;对于 3D 生成等异步模型,还可以查询任务进度并获取生成结果。 -### 这一阶段的商业形态 +### 这一阶段的商业方向(待确认) -- 预充值和按量消费。 -- 模型套餐和基础额度。 -- 不同模型按照不同价格计费。 -- 针对高频用户提供更高并发或更大额度。 +第一阶段暂定以共享额度模型中转为产品形态,但以下商业规则尚未确定: + +- 是否免费试用、试用额度如何发放。 +- 预充值、套餐、按量消费或其他收费方式。 +- 不同模型和不同资源类型的计价单位与价格。 +- 失败、超时、取消和供应商故障时的扣费与退款规则。 +- 余额、并发、速率和项目预算的限制。 +- 充值、退款、支付渠道、发票和对账方式。 ## 六、第二阶段:企业级 AI Gateway @@ -276,7 +281,7 @@ - 英文名称:MOYI Model Intelligence Hub - 产品口号:一处接入,连接多模。 - 英文口号:One Gateway for Every Model You Use. -- 当前阶段:第一阶段,共享额度模型中转站规划 +- 当前阶段:第一阶段,先服务内部业务并验证共享额度多模型调用服务 - 长期目标:面向开发者和企业的完整 MaaS 平台与自托管模型云 - 代码仓库:[MOYI-Model-Intelligence-Hub](http://39.106.119.229:3000/MLKJ/MOYI-Model-Intelligence-Hub) diff --git a/docs/01-product-definition-and-prototype.md b/docs/01-product-definition-and-prototype.md index ff96b1a..6e0bd7c 100644 --- a/docs/01-product-definition-and-prototype.md +++ b/docs/01-product-definition-and-prototype.md @@ -6,7 +6,7 @@ - 阶段:阶段 1——需求分析与产品定义 - 当前版本:`v0.1-draft` - 状态:待评审 -- 目标:明确第一阶段共享额度模型中转站的产品范围和核心使用路径 +- 目标:明确第一阶段共享额度多模型调用服务的产品范围和核心使用路径 ## 一、阶段目标 @@ -23,29 +23,47 @@ ### 产品形态 -第一阶段的模亦灵枢是一个“统一模型调用服务”: +第一阶段的模亦灵枢是一个“统一多类型模型调用服务”,首先服务模灵科技内部业务和 AI SoulMate 等内部应用,再逐步向外部用户开放: -- 用户在平台注册并获得账户。 +- 内部项目或外部用户获得统一账户和 API Key。 - 用户查看平台提供的模型、价格和服务状态。 - 用户创建平台 API Key。 -- 用户通过统一 API 调用多个模型。 +- 用户通过统一 API 外壳调用文本、图片、音频、视频、Embedding、3D 生成等不同类型模型;每类模型保留自己的输入输出 schema 和能力参数。 +- 平台同时支持普通响应、流式响应和异步任务响应。 +- 对 3D 生成等任务型模型,用户可以提交任务、查询进度、获取结果文件并处理失败或取消。 - 平台根据实际用量扣减共享额度。 - 用户可以查看调用量、费用和余额变化。 ### 核心价值 -让开发者不需要分别购买、配置和维护多个模型供应商的调用入口,通过一次接入即可使用多个模型。 +让内部项目和外部开发者不需要分别购买、配置和维护多个模型供应商的调用入口,通过一次接入即可使用多种类型模型,并能以统一方式管理同步调用和异步生成任务。 -### 当前商业模式 +### 当前商业模式状态 +- 产品形态暂定为共享额度中转。 - 平台统一管理上游模型供应商和调用额度。 -- 用户通过预充值、套餐或按量消费使用模型。 -- 不同模型按照不同的使用成本和销售价格计费。 -- 平台负责模型调用、用量统计、余额扣减和基础服务支持。 +- 用户付费方式、免费试用、套餐、计价单位、扣费和退款规则暂未确定。 +- 平台负责模型调用、用量统计、余额扣减和基础服务支持;具体账务规则进入待决策清单。 ## 三、目标用户 -### 用户 A:个人开发者 +### 用户 A:模灵科技内部业务与 AI SoulMate 团队 + +#### 特征 + +- 首批真实使用者,拥有明确的模型调用和 AI 生成 3D 业务需求。 +- 需要验证统一接口是否能覆盖内部不同类型模型和生产流程。 +- 可以提供早期调用反馈、模型效果反馈和成本数据。 + +#### 主要需求 + +- 通过统一入口调用内部和外部模型服务。 +- 支持文本、图片、音频、视频、Embedding 和 3D 生成等模型类型。 +- 支持同步、流式和异步任务型调用。 +- 查看任务状态、生成结果、用量和错误。 +- 在内部验证平台稳定性、调用体验和资源成本。 + +### 用户 B:个人开发者 #### 特征 @@ -60,7 +78,7 @@ - 复制示例代码完成首次调用。 - 查看余额、用量和调用错误。 -### 用户 B:小型 AI 应用团队 +### 用户 C:小型 AI 应用团队或 AI 创业公司 #### 特征 @@ -75,7 +93,22 @@ - 控制并发、额度和模型访问权限。 - 使用统一接口替换模型供应商。 -### 用户 C:平台运营人员 +### 用户 D:企业研发团队 + +#### 特征 + +- 有多个业务应用和模型使用需求。 +- 关注权限、预算、数据处理、稳定性和审计能力。 +- 企业认证、组织和细粒度权限可以后置,但数据模型和接口需要预留扩展空间。 + +#### 主要需求 + +- 为组织、项目和应用隔离 API Key 和预算。 +- 管理不同模型类型的访问权限和调用策略。 +- 查看调用、成本、错误、任务结果和审计记录。 +- 后续接入企业认证、团队和 RBAC 能力。 + +### 用户 E:平台运营人员 #### 特征 @@ -89,18 +122,29 @@ - 查看平台收入、成本、调用量和异常情况。 - 处理充值、退款、封禁和服务故障。 +### 用户优先级 + +1. 模灵科技内部业务与 AI SoulMate 团队:首批真实使用者和验证者。 +2. 个人开发者:验证标准化接入和低门槛使用体验。 +3. 小型 AI 应用团队与 AI 创业公司:验证项目隔离、预算和稳定性能力。 +4. 企业研发团队:在前述能力稳定后逐步扩展企业认证、组织和治理能力。 + +平台运营人员是第一阶段的内部管理角色,不作为首批外部获客对象。 + ## 四、用户需求与产品需求映射 用户需求描述用户希望达成的业务目标;产品需求把目标转化为可实现、可验收的能力。每项需求在评审后分配唯一编号,并在后续原型、接口、开发任务和测试用例中继续引用。 | 需求编号 | 用户需求 | 对应产品能力 | 优先级 | 验收方向 | |---|---|---|---|---| -| UR-001 | 开发者希望只接入一次就能调用多个模型 | 统一 API、标准模型标识、供应商适配 | P0 | 使用同一鉴权和请求格式成功调用已上线模型 | -| UR-002 | 开发者希望快速完成首次调用 | 注册登录、API Key、快速开始、示例代码 | P0 | 新用户可按文档独立完成首次调用 | -| UR-003 | 用户希望清楚知道用了多少、花了多少 | 用量统计、计费、余额和账单流水 | P0 | 每笔调用可追踪到模型、用量、金额和余额变化 | -| UR-004 | 团队希望隔离项目凭证和预算 | 项目级 Key、权限和额度限制 | P1 | 不同项目可独立统计并限制用量 | -| UR-005 | 用户希望上游异常时服务尽量可用 | 健康检查、路由和故障切换 | P1 | 可按策略切换可用供应商且不重复计费 | -| UR-006 | 运营人员希望管理供给、价格和风险 | 供应商、模型、定价、用户和风控后台 | P0 | 配置变更可审计并按权限生效 | +| UR-001 | 内部业务首先需要一个稳定的统一模型入口 | 统一 API、标准模型标识、供应商适配和内部项目接入 | P0 | 内部项目使用统一鉴权和请求方式调用已上线模型 | +| UR-002 | 用户希望一次接入即可使用多种类型模型 | 统一 API 外壳、模型类型能力描述、类型化输入输出 schema 和供应商适配层 | P0 | 文本、图片、Embedding 和 3D 等首批模型可按统一规则发现和调用,同时保留各类型必要参数 | +| UR-003 | 3D 生成等模型需要异步完成任务 | 任务提交、任务状态、轮询/回调、结果文件和失败处理 | P0 | 用户可以提交任务、查询状态并获取生成结果 | +| UR-004 | 开发者希望快速完成首次调用 | 注册登录、API Key、快速开始、示例代码 | P0 | 新用户可按文档独立完成首次调用 | +| UR-005 | 用户希望清楚知道用了多少、花了多少 | 多维用量统计、计费、余额和账单流水 | P0 | 每笔调用或任务可追踪到模型、资源用量、金额和余额变化 | +| UR-006 | 团队希望隔离项目凭证和预算 | 项目级 Key、权限和额度限制 | P1 | 不同项目可独立统计并限制用量 | +| UR-007 | 用户希望上游异常时服务尽量可用 | 健康检查、路由和故障切换 | P1 | 可按策略切换可用供应商且不重复计费 | +| UR-008 | 运营人员希望管理供给、价格和风险 | 供应商、模型、定价、用户和风控后台 | P0 | 配置变更可审计并按权限生效 | > 当前为需求矩阵初稿。正常流程、异常场景、非功能指标和测试用例将在需求评审中继续补齐。 @@ -144,6 +188,24 @@ 记录用量并完成额度结算 ``` +### 3D 及其他异步模型调用流程 + +```text +选择模型和输入文件/参数 + ↓ +提交生成任务 + ↓ +平台鉴权、校验、预估资源并路由 + ↓ +返回任务 ID + ↓ +查询任务状态或接收回调 + ↓ +任务完成后保存结果元数据和文件地址 + ↓ +记录资源用量并完成额度结算 +``` + ### 运营人员管理流程 ```text @@ -168,6 +230,7 @@ - 首页:介绍平台价值、支持模型和接入方式。 - 模型目录:查看模型能力、价格、上下文和服务状态。 +- 模型详情需要展示输入输出格式、调用模式、任务型模型的状态流程和结果类型。 - 文档中心:提供快速开始、API 参考和示例代码。 - 服务状态:展示供应商和平台服务状态。 - 登录/注册:进入用户控制台。 @@ -178,6 +241,7 @@ - API Key:创建、查看、禁用和轮换 Key。 - 模型:查看可用模型、能力、价格和调用说明。 - 用量:按时间、模型、项目查看调用量和成本。 +- 任务与结果:查看异步任务状态、失败原因、结果文件和下载/再次调用入口。 - 账单:充值、套餐、消费流水和退款记录。 - Playground:使用平台模型进行简单测试。 - 文档:查看接入代码和常见问题。 @@ -217,6 +281,9 @@ - 模型名称和供应商。 - 模型类型:文本、视觉、Embedding 等。 +- 模型类型:文本、视觉、Embedding、重排、图像、音频、视频、3D 和其他多模态模型。 +- 调用模式:同步、流式或异步任务。 +- 输入输出:文本、图片、音频、视频、3D 文件、结构化数据和结果文件类型。 - 能力标签:对话、推理、工具调用、结构化输出等。 - 上下文长度和价格。 - 服务状态和推荐场景。 @@ -259,7 +326,7 @@ **页面内容**: - 按日期、模型和项目筛选。 -- 请求次数、输入/输出用量和金额。 +- 请求次数、任务次数、输入/输出用量、处理时长、文件量和金额。 - 成功、失败、限流和退款记录。 - 余额流水和充值记录。 @@ -275,18 +342,32 @@ - Prompt 输入区。 - 参数设置。 - 普通/流式响应展示。 -- Token、延迟和费用信息。 +- 异步任务进度、结果预览或结果文件下载。 +- Token、处理时长、资源用量、延迟和费用信息。 - 复制代码按钮。 **主要操作**:测试模型、切换模型、复制调用代码。 -### P07:运营后台 +### P07:任务与结果 + +**目的**:让用户集中查看 3D 生成等异步模型的任务生命周期和结果。 + +**页面内容**: + +- 任务 ID、模型、提交时间和当前状态。 +- 排队、运行、成功、失败、取消和过期状态。 +- 进度、错误原因、重试和取消操作。 +- 结果文件预览、下载、有效期和再次调用入口。 + +**主要操作**:查看任务、重试任务、取消任务、下载或删除结果。 + +### P08:运营后台 **目的**:让平台运营人员管理供给、价格、用户和风险。 **页面内容**: -- 平台请求量、收入、成本和毛利概览。 +- 平台请求量、任务量、收入、成本和毛利概览。 - 供应商健康状态。 - 模型上下架和价格管理。 - 用户额度和异常调用。 @@ -302,9 +383,11 @@ - 模型目录和模型详情。 - API Key 创建和禁用。 - 统一模型调用入口。 -- 至少一个模型供应商的真实调用。 -- 共享额度或试用额度。 -- 基础用量和余额记录。 +- 支持同步、流式和异步任务三种调用模式。 +- 首批模型清单至少覆盖文本/多模态能力,并预留或接入 AI 生成 3D 模型能力。 +- 至少一个首批模型供应商的真实调用(供应商和模型清单待填写)。 +- 内部/平台额度账户和基础额度记账(具体扣费、试用和退款规则待定)。 +- 支持 Token、请求、任务、文件或其他资源的基础用量和余额记录。 - 用户调用文档和示例代码。 - 运营后台的用户、模型和供应商管理。 @@ -312,6 +395,7 @@ - 多供应商路由和基础故障切换。 - Playground。 +- 3D 结果的增强预览、资产管理和更复杂的异步编排。 - 充值、退款和套餐。 - 项目级 Key 和额度。 - 更完整的账单和对账。 @@ -322,6 +406,7 @@ - BYOK。 - 企业组织、团队和 RBAC。 +- 企业认证和企业主体资料管理。 - 高级路由策略和 SLA。 - 知识库、RAG、Agent 和工作流。 - 模型评测和模型市场。 @@ -335,14 +420,17 @@ - 完整知识库和企业数据平台。 - 多区域多活。 - 面向所有行业的复杂企业解决方案。 +- 企业认证的完整业务闭环;第一版只预留用户类型、主体信息、认证状态和权限扩展字段。 ## 十、阶段验收标准 阶段 1 通过评审需要满足: - 能清楚说明第一阶段服务的用户和核心价值。 -- 开发者首次使用流程可以从注册走到第一次调用。 -- 模型目录、API Key、用量和账单之间的关系清楚。 +- 内部业务首次接入流程可以从配置凭证走到第一次调用。 +- 外部开发者首次使用流程可以从注册走到第一次调用。 +- 模型目录、API Key、用量和账务记录之间的关系清楚,具体价格规则可暂时留空。 +- 同步、流式和异步任务型模型的核心流程可以分别说明。 - 运营人员的供应商、模型、价格和用户管理路径清楚。 - P0/P1/P2 范围已经确认。 - 用户需求和产品需求之间可以追踪。 @@ -352,16 +440,74 @@ ## 十一、待确认事项 -以下事项需要在进入系统架构设计前确定: +以下事项先保留为待填写决策项。阶段 1 不要求一次性全部确定,但在涉及对应开发范围前必须完成确认。 -- 首批接入哪些模型供应商。 -- 第一阶段服务个人开发者还是企业团队为主。 -- 是否提供免费试用额度。 -- 充值、套餐和退款规则。 -- 第一版支持哪些模型类型。 -- 是否需要手机号、邮箱或企业认证。 -- 平台首发地区和数据处理范围。 -- 亦城财富在产品中的联合品牌和运营角色。 +### A. 首批模型与供应商 + +| 待填写项 | 需要确认的内容 | 当前状态 | +|---|---|---| +| 供应商清单 | 供应商名称、API 方式、服务地区、授权方式、账户和额度 | 待填写 | +| 模型清单 | 模型名称、版本、类型、能力、输入输出格式 | 待填写 | +| 3D 模型 | 生成类型、输入文件、输出格式、任务接口、结果保存方式 | 待填写 | +| 调用模式 | 同步、流式、异步任务、轮询、Webhook | 待填写 | +| 供应商限制 | 速率、并发、额度、内容限制、SLA 和故障处理 | 待填写 | + +### B. 额度、计费与支付 + +| 待填写项 | 需要确认的内容 | 当前状态 | +|---|---|---| +| 额度来源 | 平台共享额度、内部额度、用户自有额度或混合模式 | 共享额度方向,细节待定 | +| 免费试用 | 是否提供、对象、额度、有效期和防滥用规则 | 待填写 | +| 计价单位 | Token、请求、图片张数、秒数、任务次数、文件量、GPU 时间等 | 待填写 | +| 售价规则 | 成本价、销售价、倍率、套餐、最低消费和并发权益 | 待填写 | +| 扣费时点 | 请求前预扣、成功后结算、异步任务分阶段扣费 | 待填写 | +| 失败与退款 | 超时、取消、失败、上游故障和部分成功的处理 | 待填写 | +| 支付与对账 | 支付渠道、退款、发票、账单周期和财务对账 | 待填写 | + +### C. 用户、认证与权限 + +| 待填写项 | 需要确认的内容 | 当前状态 | +|---|---|---| +| 内部接入 | 内部项目如何创建、分配额度和管理 API Key | 待填写 | +| 外部注册 | 邮箱、手机号、邀请码或其他方式 | 待填写 | +| 企业认证 | 是否第一版启用,认证材料、审核人和认证后权限 | 可后置;数据模型预留扩展 | +| 项目与 Key | 是否支持项目级 Key、权限、预算、并发和模型白名单 | 待填写,建议预留 | +| 管理员权限 | 用户、模型、供应商、账务、风控、审计的角色边界 | 待填写 | + +### D. 地区、数据与合规评估 + +| 评估项 | 需要明确的问题 | 当前状态 | +|---|---|---| +| 运营主体和服务地区 | 由哪个主体运营,面向哪些国家/地区,是否向境内公众提供服务 | 待填写 | +| 域名、备案与支付 | 使用什么域名和服务器,是否需要网站/应用备案,支付和开票主体是谁 | 待填写,需结合业务形态确认 | +| 上游授权 | 供应商是否允许 API 转售、共享额度、二次封装、商业化和结果交付 | 待填写 | +| 输入与输出数据 | Prompt、上传文件、3D 素材、生成结果是否保存,保存多久,谁可访问 | 待填写 | +| 个人信息 | 注册、联系方式、身份认证、日志中收集什么,如何告知、删除和导出 | 待填写 | +| 跨境与数据位置 | 上游模型和存储是否跨境,数据传输、备份和访问地域如何控制 | 待填写 | +| 内容安全 | 输入输出审核、违规处理、申诉、账号封禁和未成年人保护 | 待填写 | +| 生成内容标识 | 图片、视频、虚拟场景和 3D 结果是否需要显式/隐式标识及元数据保留 | 待法务确认,并在产品中预留 | +| 3D 素材知识产权 | 用户上传素材的授权、生成资产的使用权、第三方模型/素材许可证 | 待填写 | +| 审计与安全 | 管理员操作、调用日志、密钥、异常事件和留存期限 | 待填写 | + +这部分是产品和技术的合规输入清单,不构成法律意见。实际开放外部用户前,应由法务根据主体、地区、供应商、模型类型和数据流向确认适用要求。 + +可先参考官方材料: + +- [生成式人工智能服务管理暂行办法](https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm) +- [人工智能生成合成内容标识办法](https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm) +- [中华人民共和国个人信息保护法](https://www.miit.gov.cn/jgsj/zfs/fl/art/2022/art_515a4b20c12f430eab54bb4f56d89f56.html) +- [互联网信息服务备案审批服务指南](https://hunca.miit.gov.cn/bsfw/bszn/art/2024/art_7ef0d8bd3b0d433ba4b9b277f883f74d.html) + +### E. 第一版目标与资源 + +| 待填写项 | 需要确认的内容 | 当前状态 | +|---|---|---| +| 内部使用目标 | 首批内部项目、模型类型、成功标准和试用周期 | 按项目逐步补充 | +| 外部开放目标 | 是否开放、开放对象、邀请范围和阶段目标 | 待填写 | +| 时间目标 | 内测、试运行、公开版本的期望时间 | 待填写 | +| 团队资源 | 产品、前端、后端、测试、运维和设计人员 | 按开发推进逐步补充 | +| 基础设施 | 域名、服务器、数据库、对象存储、监控和支付资源 | 待填写 | +| 规模目标 | 用户数、并发、请求量、异步任务量和存储量 | 待填写 | ## 十二、下一阶段产物 @@ -369,7 +515,7 @@ - 产品信息架构图。 - 开发者首次调用、日常调用和运营管理的用户流程图。 -- P01—P07 页面的低保真线框图。 +- P01—P08 页面的低保真线框图。 - 核心页面的状态、交互和异常提示说明。 - 可点击原型或关键页面高保真视觉稿。