ModelPort
ModelPort · 使用指南

统一密钥如何路由模型?授权范围与实际分组计费|ModelPort

ModelPort 编辑 · 更新于

统一密钥只是一个入口,不是所有模型的通行证。请求能否进入模型,取决于用户授权、可用分组、模型授权、渠道能力和账号状态;客户端下拉框不能替代服务端准入。

模型可用性从哪里来?

自动分组目录来自启用分组中的可调度账号。开启模型白名单时,只登记白名单中且账号支持的模型;未开启时只读取账号显式配置的模型映射,不把价格目录或客户端默认列表当成已接入模型。模型列表和模型广场用于核对当下信息。

同平台授权范围

自动路由只在当前用户获授权的分组中寻找精确命中的模型,并按候选分组的平台归属处理。一个公开模型名同时出现在不同平台时,系统不会猜测;模型未被已启用候选组登记时,也不会因名称相似而放行。指定分组密钥还要通过该组白名单(如果启用)。

切组后按实际分组结算

响应提交前遇到可重试的限流、服务端故障或账号级凭证故障,才可能继续尝试下一组,普通参数错误不会重放。成功请求的用量记录绑定实际成功分组,按该组模型价格、计费类别和用户适用倍率计算;不能只看客户端模型名或假定某个固定价格。若上游已经产生用量,应以异常用量规则和站内记录为准。

流式输出的边界

流式响应一旦向客户端写出数据或被刷新,同一个请求就不能再重放到下一组。流式已经输出后不要依赖自动重试;自行重发属于新请求,应先核对请求标识、响应内容和用量记录。

调用前核对

  1. 用目标密钥查询模型列表,确认精确模型 ID。
  2. 确认用户拥有相应分组权限,并查看该组当前价格和接口能力。
  3. 先用不含敏感内容的小请求验证,再开始长任务。

失败定位见错误排查顺序;费用口径见计费说明