文档目录

计费和权限

理解令牌分组

令牌分组决定某个令牌调用时走哪套模型、渠道和计费策略。充值只增加账号余额;分组折扣或倍率会在实际调用模型时参与扣费计算。

一句话理解

账号余额

充值后进入账号的可用额度。余额显示充值到账结果,不会因为某个分组折扣而提前变大。

令牌

客户端调用接口时使用的凭证。一个账号可以创建多个令牌,分给不同人员、项目或环境。

令牌分组

令牌调用时所属的规则集合,通常会影响可用模型、模型倍率、渠道和限流策略。

实际扣费

每次请求发生后,平台按令牌分组和模型价格计算费用,再从账号余额中扣除。

充值和扣费关系

  1. 先充值:账户余额按实际到账额度显示。
  2. 再创建令牌:创建时选择这个令牌所属的分组。
  3. 最后调用模型:每次请求按令牌分组对应的计费策略扣费。
例如充值 800 美元,账户余额显示 800 美元。如果某个令牌选择了 8 折分组,折扣不会把余额显示成 1000 美元;它只会在这个令牌调用模型时,让本次调用按折扣后的价格扣费。

分组会影响什么

可用模型

有些分组可能只开放部分模型。模型不可用时,客户端可能提示无权访问、模型不存在或无可用渠道。

计费倍率

不同分组可能有不同价格、倍率或折扣。最终扣费以控制台展示和管理员配置为准。

渠道策略

分组可能绑定不同上游渠道,影响稳定性、速度、区域或供应商能力。

限流并发

部分分组可能配置不同的请求频率、并发上限或任务队列策略。

自动分组和指定分组

创建令牌时,优先推荐选择 价格优先稳定优先。这两个是自动分组,平台会根据当前可用渠道自动选择,不需要用户自己判断每个渠道的状态。

价格优先

平台会优先选择价格更低的可用渠道。最终扣费折扣不是固定写死在“价格优先”这四个字上,而是按本次实际调用到的渠道倍率计算。

稳定优先

平台会优先选择稳定性更高的可用渠道。最终折扣也由实际调用到的渠道决定,因此不同模型、不同时间命中的倍率可能不同。

指定分组

只走用户手动选择的指定分组/渠道。适合管理员明确要求走某个渠道,或业务需要固定某个供应商能力的场景。

指定倍率

选择指定分组后,请求按该分组展示的倍率扣费。如果该分组没有可用渠道,请求可能失败,不会自动按价格或稳定性重新选择。

如何选择分组

  1. 一般用户优先选择价格优先或稳定优先,让平台自动选择合适渠道。
  2. 对成本敏感时选择价格优先;对成功率和稳定性更敏感时选择稳定优先。
  3. 管理员明确要求某个渠道、或业务必须固定供应商时,再选择指定分组。
  4. 选择指定分组前,确认该分组支持目标模型,并理解它会按该分组倍率扣费。
不要把“充值金额”和“分组折扣”混在一起理解。充值只更新账户余额;自动分组或指定分组只在模型调用时影响本次请求走哪个渠道、按什么倍率扣费。

多人使用怎么管

一人一令牌

给每个使用者单独创建令牌,便于查看用量和定位异常。

一项目一令牌

开发、测试、生产环境分别使用不同令牌,避免互相影响。

单独设限

为每个令牌设置额度、模型列表、过期时间或 IP 白名单。

随时停用

人员离职、项目结束或怀疑泄露时,只删除对应令牌,不影响其他令牌继续使用。