mirror of
https://github.com/Wei-Shaw/sub2api.git
synced 2026-10-15 23:22:59 +08:00
feeeei
5a25507dcb
- 规则新增 scope 字段:account 命中后暂停整个账号,model 只冷却本次请求的模型; 字段缺省时保持现有语义(模型已知且非 401 走模型级,否则账号级),显式取值由运营人员决定,401 也不例外 - 模型未知的路径按账号级兜底;状态 JSON 记录 scope/model 便于排查 - 创建/编辑账号弹窗的规则编辑器新增作用范围单选卡片,新规则默认模型级; 未设置 scope 的存量规则按后端缺省语义回显(401 账号级、其余模型级),打开再保存不改变行为
48 lines
2.5 KiB
Go
48 lines
2.5 KiB
Go
package service
|
|
|
|
import (
|
|
"context"
|
|
"time"
|
|
)
|
|
|
|
// TempUnschedState 临时不可调度状态
|
|
type TempUnschedState struct {
|
|
UntilUnix int64 `json:"until_unix"` // 解除时间（Unix 时间戳）
|
|
TriggeredAtUnix int64 `json:"triggered_at_unix"` // 触发时间（Unix 时间戳）
|
|
StatusCode int `json:"status_code"` // 触发的错误码
|
|
MatchedKeyword string `json:"matched_keyword"` // 匹配的关键词
|
|
RuleIndex int `json:"rule_index"` // 触发的规则索引
|
|
ErrorMessage string `json:"error_message"` // 错误消息
|
|
TriggerCount int64 `json:"trigger_count,omitempty"` // 本次触发累计命中次数
|
|
TriggerThreshold int `json:"trigger_threshold,omitempty"` // 触发阈值
|
|
TriggerWindowMinutes int `json:"trigger_window_minutes,omitempty"` // 计数窗口（分钟）
|
|
Scope string `json:"scope,omitempty"` // 隔离粒度：account / model
|
|
Model string `json:"model,omitempty"` // 模型级时被冷却的模型键
|
|
}
|
|
|
|
// TempUnschedCache 临时不可调度缓存接口
|
|
type TempUnschedCache interface {
|
|
SetTempUnsched(ctx context.Context, accountID int64, state *TempUnschedState) error
|
|
GetTempUnsched(ctx context.Context, accountID int64) (*TempUnschedState, error)
|
|
DeleteTempUnsched(ctx context.Context, accountID int64) error
|
|
}
|
|
|
|
// OpenAIAPIKeyHealthCache is an optional TempUnschedCache extension used to
|
|
// aggregate pool API-key failures across gateway instances.
|
|
type OpenAIAPIKeyHealthCache interface {
|
|
RecordOpenAIAPIKeyHealthFailure(ctx context.Context, accountID int64, windowMinutes, threshold int) (count int64, tripped bool, err error)
|
|
}
|
|
|
|
// TimeoutCounterCache 超时计数器缓存接口
|
|
type TimeoutCounterCache interface {
|
|
// IncrementTimeoutCount 增加账户的超时计数，返回当前计数值
|
|
// windowMinutes 是计数窗口时间（分钟），超过此时间计数器会自动重置
|
|
IncrementTimeoutCount(ctx context.Context, accountID int64, windowMinutes int) (int64, error)
|
|
// GetTimeoutCount 获取账户当前的超时计数
|
|
GetTimeoutCount(ctx context.Context, accountID int64) (int64, error)
|
|
// ResetTimeoutCount 重置账户的超时计数
|
|
ResetTimeoutCount(ctx context.Context, accountID int64) error
|
|
// GetTimeoutCountTTL 获取计数器剩余过期时间
|
|
GetTimeoutCountTTL(ctx context.Context, accountID int64) (time.Duration, error)
|
|
}
|