调用方式
/v1 调用使用虚拟密钥鉴权,在管理台「虚拟密钥」页面创建,说明见 路由与虚拟密钥。调用前需要先在 配置中心 配好提供商和模型,再在路由页挂上逻辑名。
OpenAI 兼容(推荐)
日常使用走 /v1/chat/completions,可路由到任意协议的模型:
curl http://127.0.0.1:17777/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer vk-xxxx" \
-d '{"model": "glm", "messages": [{"role": "user", "content": "Hi"}]}'
model 填管理台里配置的逻辑路由名。请求 glm,落地到路由背后任意真实模型。
provider/model 直达
逻辑路由未命中时,model 也支持 提供商名/模型名,跳过加权选择、锁定某个物理模型:
curl http://127.0.0.1:17777/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer vk-xxxx" \
-d '{"model": "openrouter/anthropic/claude-3.5-sonnet", "messages": [{"role": "user", "content": "Hi"}]}'
规则:
- 仅在逻辑路由未命中时生效;若存在与输入完全同名的路由,仍然走路由池
- 仅用第一个
/分割,模型名里可以再含/ /v1/models会把所有物理模型以provider/model形式一并列出- 配置了授权路由的受限虚拟密钥无法用该语法绕过白名单
原生协议直通
需要厂商独有参数时,用原生端点,零损耗、参数完整:
# Anthropic 原生,仅路由到 protocol=anthropic 的模型
curl http://127.0.0.1:17777/v1/messages \
-H "Content-Type: application/json" \
-d '{"model": "claude", "messages": [{"role": "user", "content": "Hi"}], "thinking": {"type": "enabled"}}'
| 端点 | 协议 | 使用场景 |
|---|---|---|
/v1/chat/completions | OpenAI | 日常使用,统一接口,自动转换 |
/v1/messages | Anthropic | 需要 thinking 等特性 |
/v1/responses | OpenAI Responses | 需要 reasoning_content |
跨协议转换时,Anthropic 的 thinking 会以 reasoning_content 透出。
MCP
MCP 路由的入口是 /v1/mcp/<路由别名>。一个会话里 tools/list 会汇总该路由挂上的后端;tools/call 按工具名转发到对应后端。对话测试页选中 MCP 路由后,会把工具注入模型自动调用。后端与工具白名单在 路由与虚拟密钥 配置。