灵渠 LingQu
多上游模型接入

Anthropic 兼容接入

遵循 Anthropic 规范的第三方上游接入——以 anthropic-compatible 协议类型登记、Messages 形态映射、thinking 档识别与路由配置示例

Anthropic 兼容接入用于纳管遵循 Anthropic 规范的第三方上游。这类上游以 Messages 形态对接,平台在其与统一入口之间做请求/响应格式转换,并识别深度推理(thinking)档以落入正确的计量档位。本页只写 Anthropic 兼容接入相对通用接入规则的差异。

接入要点

登记时 sourcethird_partytypeanthropic-compatible。平台据此把统一入口的 OpenAI 兼容请求翻译为 Anthropic Messages 形态发往上游,再把上游响应对齐回统一响应结构。

curl https://your-platform/api/v1/providers \
  -H "Content-Type: application/json" \
  -H "Cookie: <控制台会话凭证>" \
  -d '{
    "name": "Anthropic 兼容上游",
    "source": "third_party",
    "type": "anthropic-compatible",
    "models": ["<模型中性名>"],
    "group": "default",
    "priority": 2,
    "weight": 1
  }'
字段Anthropic 兼容取值说明
sourcethird_party第三方兼容接入
typeanthropic-compatible平台按 Anthropic 规范做请求/响应格式转换
models中性名数组上游实际模型名映射为对外中性名

请求与响应映射

客户应用始终面对统一入口的 OpenAI 兼容形态;平台在转发给 Anthropic 兼容上游时做形态转换,对客户透明:

平台统一入口(OpenAI 形态)Anthropic 兼容上游(Messages 形态)映射
model(中性名)model(上游实际模型名)models 登记解析
messages(含 system 角色)messages + 独立 system 字段平台把 system 角色消息抽出为独立字段
max_tokensmax_tokens透传
streamstream透传,流式逐 chunk 经护栏中间件处理

响应方向,平台把上游的 Messages 响应对齐回统一的 chat.completion 结构,并在 usage 上补全 6 档计量。

thinking 档识别。 Anthropic 规范带有显式的深度推理(thinking)能力。当上游以 thinking 方式作答时,平台据上游返回识别该次为 thinking 档,落入对应的计量档位(usage.thinking 置为 true)。thinking 档相对溢价,缓存命中档单价更低——具体单价以服务协议与控制台显示为准。

计数接口的形态对齐

Anthropic 规范带有独立的词元计数形态。平台的统一计价词元计数接口对外仍为统一形态,对 Anthropic 兼容上游的模型同样可复算:

curl https://your-platform/v1/token-count \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer tsxt-************************" \
  -d '{
    "model": "<模型中性名>",
    "messages": [
      { "role": "user", "content": "<待计数文本>" }
    ],
    "thinking": true
  }'
{
  "input_tokens": 0,
  "output_tokens_estimate": 0,
  "cache_hit": false,
  "thinking": true,
  "price_tier": "<适用单价档(6 档之一)>",
  "metering_version": "<当期计量口径版本号>"
}

计数接口对相应文本按平台统一计价词元口径返回各档词元数,便于客户侧复算核对计费;thinking 参数用于预估 thinking 档下的适用档位。

路由与备份

Anthropic 兼容上游常与自有供应、其它规范的第三方上游供给同一中性名,按优先级与权重协同。当同分组内高优先级候选不可用时,路由中间件降级到该上游,逐次尝试链落入路由轨迹,可在「请求监控」页查看。

其它第三方规范见 OpenAI 兼容接入Gemini 兼容接入;计量与计费字段的完整契约见 API 参考

On this page