Martin · 大模型路由网关
现已开放一个 API,统一模型调用、凭证管理与额度管控
Martin 通过一个兼容 OpenAI 的 API 路由您的模型调用,集中管理凭证,并按 API key、智能体与团队控制支出上限
martin · 额度管控示例
范围额度已用状态
team/research
5,000
62%
正常
key/prod-chat
2,000
88%
已提醒
key/batch-eval
1,000
100%
已冻结
team/growth
3,000
41%
正常
key/staging
300
14%
正常
异常消耗已通知负责人
key/batch-eval 当前消耗为其 7 日均值的 4.2 倍
01 — 模型调用
指向 Martin,代码无需重写
Martin 兼容 OpenAI。只需更换 Base URL 与 API key,即可通过一个端点调用多家提供商的模型
模型提供商
模型提供商名单暂未公开。预约演示,了解适合您场景的模型
需要修改的内容python
client = OpenAI( api_key=os.environ["OPENAI_API_KEY"], base_url=os.environ["GOSEVEN_BASE_URL"], api_key=os.environ["GOSEVEN_API_KEY"],)
02 — 凭证与额度管控
额度上限,自动执行
当 API key 或团队超出额度时,Martin 会自动处理,无需专人盯守后台
-
01
签发 API key
在一个 GoSeven 账户中,为每个团队和应用签发 API key
-
02
设定额度
为每个 API key 与团队设定额度上限
-
03
24 小时内冻结
超额的 key 或团队将在 24 小时内被冻结,相应额度被预扣
-
04
提醒负责人
账户负责人收到提醒,并决定后续处理
03 — 消除浪费
不再为不必要的调用付费
01
调用优化
Martin 优化调用方式,以更低成本完成同样的工作
02
异常识别
Martin 按 API key 与团队,及早识别异常消耗
04 — 数据与计费
您的提示词,只属于您
- 提示词与返回内容
- 不保存,或进行隐私处理
- 计费方式
- 预付额度,购买路由服务