mirror of
https://github.com/Wei-Shaw/sub2api.git
synced 2026-10-16 07:33:06 +08:00
转发: - 平台清单与 provider profile 新增 command_code:按模型分流,Chat Completions / Responses 基址 https://api.commandcode.ai/provider/v1, Anthropic 基址 https://api.commandcode.ai/provider;内置规则 claude-* → Anthropic、gpt-* → Responses(也支持 Chat Completions)。 - 原生 Anthropic 端点的版本感知拼接改按分流方式判断,转发与连接测试共用 (Anthropic 基址带 /v1 时连接测试不再误报为配置错误)。 按模型的协议集合(模型支持入站协议时直通,免去协议转换): - 分流规则可带协议集合 protocols(首项为首选协议):入站协议在集合中时同 协议直通,否则走首选协议;只有一个协议时与原规则相同,OpenCode 行为不变。 - profile 新增 model_catalog:Command Code 的 /models 为每个模型给出 supported_endpoints。官方默认地址的目录按地址全进程共享,自定义上游按账号 隔离;目录请求的 UA 收敛与账号请求头覆写与转发一致。目录缓存 30 分钟、后台 刷新,失败退避 5 分钟;从未加载成功时首批请求最多等 2 秒,冷启动也按目录 分流。账号规则未命中的模型按目录取协议集合;目录不可用时回落内置规则(账号 未配置规则时)或 Chat Completions。 - 三个入站入口共用的 resolveUpstreamProtocol 增加目录参数。 - 前端分流规则编辑器可为每条规则勾选"也支持"的协议;提供模型目录的平台, 兜底行改为说明按上游模型列表选协议。 连接测试: - 按模型分流的平台共用一条测试路径(协议与网关同一判定,含模型目录;默认 测试模型取自 profile),不再落入 Claude 测试路径。 - 首个分支由"国产厂商"改为"按入站协议分流";adaptive 测试跳过 profile 未 提供的 Anthropic 端点。现有国产厂商行为不变。 - 连接测试是 OpenCode 专属分流入口的最后一个调用方,改走统一判定后删除 ResolveOpenCodeGoUpstreamProtocol、openCodeGoNativeProtocol,以及此前就只剩 测试使用的 OpenCodeGoModelProtocol;路由矩阵的旧行为基准改为测试内独立复述。 额度与余额(/alpha/whoami、billing/credits、billing/subscriptions、 usage/summary): - 额度探测写入 5 小时 / 每周窗口(限额套餐)与还原出的月度窗口,同时写入 积分余额;余额探测只取积分。仅对官方主机上的 API Key 账号生效。 - 订阅周期或本周期用量取数失败时保留上一次的月度快照,不当作没有月度窗口 清掉;窗口尚未开始(没有重置时间)时清掉上一个窗口的重置时间。 - whoami 取不到时探测整体失败,不按个人账户继续(组织账号会查到成员的个人 钱包,并据此按余额停调)。 - 阈值停调与定时检测纳入 Command Code;有充值积分时上游跳过窗口检查,窗口 快照不参与停调与冷却;积分低于余额阈值时临时停调。 - 上游计费探测的官方域名加入 commandcode.ai,不把 Key 发往官方主机上并不 存在的中转计费接口。 上游错误(依据 commandcode.ai/docs/troubleshooting/errors,按文案分类, 402 / 403 / 429 同样处理): - 5 小时 / 每周窗口用满:带原因的临时停调,到文案中的 "Resets in …",解析 不出时回落额度快照;充值积分不受窗口限制,额度 / 余额探测发现充值积分后 只解除这一类停调。 - 积分耗尽(含 usage_exceeded):可恢复的临时停调,积分恢复后由周期检测 解除,不再永久置为 error。 - 组织花费上限:文案指明模型("set for <模型>")且请求模型已知时只写模型级 限流;成员总额度或作用域不明时整个账号冷却,最长一小时。 - 普通频率限制走默认 429 逻辑,不再冷却到窗口重置点。 前端: - 账号列表显示额度窗口与积分余额,阈值设置增加 command_code。单元格可见性 改为按账号判定,与后端一致:只对官方主机上的 API Key 账号显示,自定义中转 显示占位符,不再每次打开列表都探测出一行报错。 - 使用官网的官方标志(圆角方块内镂空 ⌘);配色为中性灰(品牌黑色已由 Grok 使用)。 测试基准中原先用作"仅服务端登记"示例的 command_code 改为虚构的 acme_router; 新增的前端测试加入 CI 前端关键测试列表。 Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
140 lines
5.9 KiB
Go
140 lines
5.9 KiB
Go
package service
|
||
|
||
import (
|
||
"encoding/json"
|
||
"fmt"
|
||
"slices"
|
||
|
||
"github.com/Wei-Shaw/sub2api/internal/pkg/apicompat"
|
||
)
|
||
|
||
// resolveUpstreamProtocol 决定 OpenAI 网关本次请求发往上游的协议
|
||
// (chat_completions / responses / anthropic),是 /v1/responses、
|
||
// /v1/chat/completions、/v1/messages 三个入站入口共用的唯一判定。
|
||
// 只做判断,不改写请求体、不发请求;各入口再按「入站 × 上游」选择转换路径。
|
||
//
|
||
// inbound 为入站协议;/v1/chat/completions 收到 Responses 形状请求体时按
|
||
// responses 计。model 仅按模型分流的账号使用,取 upstreamRoutingModel 的结果。
|
||
// catalog 为上游模型目录给出的该模型支持的协议(见 model_protocol_catalog.go),未知时为 nil。
|
||
//
|
||
// 优先级:
|
||
// 1. 按模型分流的供应商(多模型聚合平台,如 OpenCode、Command Code):显式
|
||
// api_protocol 直接生效;否则先得到该模型支持的协议集合(见 modelProtocolSet),
|
||
// 入站协议在集合中时同协议直通,不在时走集合首项(首选协议)。
|
||
// 2. adaptive(按入站协议分流):供应商提供入站协议的原生端点则走同协议,
|
||
// 否则回落 Chat Completions。
|
||
// 3. 显式 anthropic 协议 → Anthropic。
|
||
// 4. shouldForwardOpenAIResponsesViaRawChatCompletions(显式 chat_completions、
|
||
// 探针确认不支持 Responses 等)→ Chat Completions。
|
||
// 5. 其余 → Responses。
|
||
//
|
||
// Grok 在 Responses / Chat Completions 入口有专属链路,须在调用本函数前分流。
|
||
func resolveUpstreamProtocol(account *Account, inbound, model string, catalog []string) string {
|
||
if account.routesByModel() {
|
||
return account.resolveModelRoutedProtocolFor(model, inbound, catalog)
|
||
}
|
||
if account.IsAdaptiveAPIProtocol() {
|
||
if account.providerSupportsProtocol(inbound) {
|
||
return inbound
|
||
}
|
||
return APIProtocolChatCompletions
|
||
}
|
||
if account.IsAnthropicProtocol() {
|
||
return APIProtocolAnthropic
|
||
}
|
||
if shouldForwardOpenAIResponsesViaRawChatCompletions(account) {
|
||
return APIProtocolChatCompletions
|
||
}
|
||
return APIProtocolResponses
|
||
}
|
||
|
||
// resolveModelRoutedProtocol 返回按模型分流账号对该模型的首选上游协议(不考虑入站
|
||
// 协议与上游模型目录),供连接测试等没有入站协议的场景使用。
|
||
func (a *Account) resolveModelRoutedProtocol(model string) string {
|
||
return a.resolveModelRoutedProtocolFor(model, "", nil)
|
||
}
|
||
|
||
// resolveModelRoutedProtocolFor 按模型名解析按模型分流账号的上游协议:显式 pinned
|
||
// 协议直接生效;否则取该模型支持的协议集合,入站协议在其中时同协议直通(省去一次
|
||
// 协议转换),不在时走首选协议。
|
||
func (a *Account) resolveModelRoutedProtocolFor(model, inbound string, catalog []string) string {
|
||
switch proto := a.GetAPIProtocol(); proto {
|
||
case APIProtocolChatCompletions, APIProtocolAnthropic, APIProtocolResponses:
|
||
return proto
|
||
}
|
||
set := a.modelProtocolSet(model, catalog)
|
||
if slices.Contains(set, inbound) {
|
||
return inbound
|
||
}
|
||
return set[0]
|
||
}
|
||
|
||
// modelProtocolSet 返回模型支持的上游协议集合(首项为首选),来源依次为:
|
||
// 1. 账号 protocol_rules 中命中的规则(管理员显式配置);
|
||
// 2. 上游模型目录(catalog):首选沿用内置规则对该模型的首选(在集合内时),否则取目录首项;
|
||
// 3. profile 内置规则——仅在账号未配置 protocol_rules 时,已配置但未命中视为有意不走内置规则;
|
||
// 4. Chat Completions,避免落入 Responses 转换链。
|
||
func (a *Account) modelProtocolSet(model string, catalog []string) []string {
|
||
rules, configured := a.configuredProtocolRules()
|
||
if configured {
|
||
if set, ok := matchProtocolRuleSet(model, rules); ok {
|
||
return set
|
||
}
|
||
}
|
||
profileRules := a.providerProfile().Endpoints(a.GetCredential("account_mode")).ProtocolRules
|
||
if set := a.supportedCatalogProtocols(catalog); len(set) > 0 {
|
||
preferred := matchProtocolRules(model, profileRules)
|
||
if slices.Contains(set, preferred) {
|
||
return normalizeProtocolSet(preferred, set)
|
||
}
|
||
return set
|
||
}
|
||
if !configured {
|
||
if set, ok := matchProtocolRuleSet(model, profileRules); ok {
|
||
return set
|
||
}
|
||
}
|
||
return []string{APIProtocolChatCompletions}
|
||
}
|
||
|
||
// supportedCatalogProtocols 过滤出账号接入模式确有原生端点的目录协议。
|
||
func (a *Account) supportedCatalogProtocols(catalog []string) []string {
|
||
out := make([]string, 0, len(catalog))
|
||
for _, protocol := range catalog {
|
||
if isNativeUpstreamProtocol(protocol) && a.providerSupportsProtocol(protocol) && !slices.Contains(out, protocol) {
|
||
out = append(out, protocol)
|
||
}
|
||
}
|
||
return out
|
||
}
|
||
|
||
// upstreamRoutingModel 返回参与协议分流的模型名:仅按模型分流的账号需要,按账号
|
||
// 模型映射与上游归一后的名字匹配规则;其余账号的分流与模型无关,返回空串。
|
||
func upstreamRoutingModel(account *Account, body []byte, defaultMappedModel string) string {
|
||
if !account.routesByModel() {
|
||
return ""
|
||
}
|
||
return resolveMappedUpstreamModel(account, body, defaultMappedModel)
|
||
}
|
||
|
||
// convertResponsesShapedChatBody 把发到 /v1/chat/completions 的 Responses 形状
|
||
// 请求体(Cursor 兼容)转换为 Chat Completions 请求体。
|
||
func (s *OpenAIGatewayService) convertResponsesShapedChatBody(body []byte) ([]byte, error) {
|
||
var responsesReq apicompat.ResponsesRequest
|
||
if err := json.Unmarshal(body, &responsesReq); err != nil {
|
||
return nil, fmt.Errorf("parse responses-shaped chat completions request: %w", err)
|
||
}
|
||
chatReq, err := apicompat.ResponsesToChatCompletionsRequestWithOptions(
|
||
&responsesReq,
|
||
&apicompat.ResponsesToChatOptions{ReasoningContentByID: s.reasoningContentByID},
|
||
)
|
||
if err != nil {
|
||
return nil, fmt.Errorf("convert responses-shaped chat completions request: %w", err)
|
||
}
|
||
chatBody, err := json.Marshal(chatReq)
|
||
if err != nil {
|
||
return nil, fmt.Errorf("marshal converted chat completions request: %w", err)
|
||
}
|
||
return chatBody, nil
|
||
}
|