 feeeei
|
26b31a83e4
|
fix(gemini): 显式缓存修改串行化、失败回滚，确定金额费用按 Key / 订阅预留
同一缓存的并发 PATCH 可能以与上游提交不同的顺序写回本地到期时间；
确定金额的存储费只预留用户余额，并发续期可越过 API Key 总额度与订阅额度；
上游已修改而本地写回失败时没有可恢复的状态。
- 新增迁移 245：缓存记录增加修改意图（mutation_token / mutation_lease_until）。
PATCH 在调用上游前登记意图并取得 2 分钟租约，条件为没有进行中的修改且到期时间
未变；上游修改、本地写回与计费均由持有者完成，并发的修改返回 409 ABORTED
- 上游结果未知、本地写回失败或进程退出时修改意图保留且不计费；租约过期后由下一次
修改或后台每分钟的恢复流程把上游有效期回滚到修改前的到期时间（已到期则删除上游
缓存与本地记录）。上游明确拒绝或请求未发出时直接清除意图
- 修改 / 删除上游缓存的单次调用超时改为 30 秒；请求发出前的失败包装为
ErrGeminiCachedContentRequestNotSent
- CheckChargeAffordable 与 ReserveInflightCharge 合并为 ReserveFixedCharge：在途预留
新增订阅、API Key 两个维度（Redis billing:inflight_scope:*），先登记本笔预留再读取
库中权威用量（Key quota_used 与限速窗口、订阅日 / 周 / 月用量）叠加同维度在途合计
校验；预留随计费任务交接，落库后释放
- GetRateLimitData 一并读取 quota_used
|
2026-10-12 17:14:56 +08:00 |
|
|
feeeei
|
05d7946af8
|
fix(gemini): 显式缓存错误透传收窄到上游网关账号，延长沿用创建时计费口径
- 绑定缓存的请求与缓存管理接口收到 429 / 5xx 时，只有上游网关账号的响应原样回写
（UpstreamFailoverError.BoundUpstreamPassthrough / GeminiCachedContentUpstreamError.UpstreamGateway），
官方账号仍走错误透传规则与通用映射，不向客户端暴露配额明细
- 记录新增 channel_usage（迁移 244）保存创建时的渠道计费口径，PATCH 延长按同一口径预检、报价与记账
- 创建 / 延长费用行的 request_id 改为固定前缀 gcache:{create|patch}:{id}，不被客户端或网关请求 id 覆盖，
按缓存 ID 即可检索一个缓存的全部费用行
- 调度快照凭据投影补齐 base_url / auth_mode / 上游显式缓存声明，显式缓存候选过滤一次算全，
不再逐个选号后剔除
|
2026-10-11 01:37:04 +08:00 |
|
|
feeeei
|
3abd646582
|
fix(ops): Gemini 原生路由的网关本地错误按错误类型归类
Google 格式错误体没有 type 字段，ops 一律记为 api_error，客户端参数错误、
引用不存在的缓存等都被归为平台内部错误。
- googleError 写出时按状态码向 ops 登记错误类型：400/413 invalid_request_error、
401 authentication_error、403 permission_error、404 not_found_error，
429 与 5xx 不登记
- 计费、并发与风控拦截沿用 Claude / OpenAI 格式错误的类型与错误码，归类口径一致
- 存储价未配置、显式缓存未启用改用 googlePlatformError，仍按平台错误统计；
错误透传规则改写的上游错误不登记本地类型
- 上游返回的缓存不存在标记为请求级失败：按客户端请求错误分类，
上游原始错误保留为明细但不参与上游归因
|
2026-10-10 23:37:48 +08:00 |
|
|
feeeei
|
d5a802f84a
|
feat(gemini): 支持显式上下文缓存（AI Studio / Vertex / 自建网关上游）
新增 /v1beta/cachedContents 的创建、列表、查询、更新有效期与删除接口。
参与账号：官方地址的 AI Studio API Key 账号、Vertex service account 账号，
以及开启"上游支持显式缓存"的自定义地址 API Key 账号。
- 网关自发缓存 ID，绑定上游资源名、持有账号与创建它的 API Key
（迁移 243 gemini_cached_contents）；list/get 只读本地记录
- 引用缓存的 generateContent / streamGenerateContent / countTokens
改写为上游资源名，只发往持有缓存的账号，不参与会话粘性、不换号；
拒绝重复键与 snake_case 写法；在持有账号上重试耗尽后，
上游 429 / 5xx 原样透传，401 / 403 映射为 502
- 计费：创建时一次性收取缓存 token 输入费与整个有效期的存储费；
延长按库中实际推进的时长收费，纯存储费不算一次请求；缩短与删除不退费
- 存储单价随计费模型取价，来自定价覆盖文件字段
cache_storage_cost_per_token_per_hour，未配置的模型拒绝创建；
存储费同时计入账号统计成本，渠道按 token 重算成本时叠加且不重复计入
- 扣费前校验：创建在上游建成后按确定金额校验余额 / 订阅额度 /
API Key 额度并登记不封顶的在途预留，不足时删除上游缓存、只收输入费；
延长在调用上游前按增量时长校验
- 有效期上限 gateway.gemini_cached_content_max_ttl_seconds，默认 86400，
有效期向上取整到秒；创建请求保留数字原文、兼容 snake_case 元数据字段
- 上游调用与落库同客户端连接脱钩；2xx 不可用响应不换号并删除已建缓存
- 缓存不存在：AI Studio 的 403、Vertex 生成请求的 400 与缓存资源接口的
404 统一识别；原生转发（含流式）不重试、不换号、不改账号状态，
向客户端返回标准 403，不暴露上游缓存资源 ID，上游原始错误登记到 ops；
PATCH 遇上游 404 移除本地记录并返回 403，DELETE 视为成功
- 自建网关上游：账号开关 explicit_cache_upstream，缓存接口发往账号自身
base_url；可选 explicit_cache_upstream_max_ttl_seconds 对齐上游 TTL 上限，
显式 TTL 超限时创建跳过该账号（全部超限返回 400），未显式时按上限创建，
PATCH 取本站与账号上限的较小值；绑定缓存的请求在网关账号上收到
429 / 5xx 时不重试、不限流该账号；前端创建 / 编辑账号弹窗新增开关与上限输入框
- 用量与 ops 端点统计：带缓存 ID 的路径归一化为 /v1beta/cachedContents，
缓存操作的上游端点记为 /v1beta/cachedContents
|
2026-10-10 23:37:47 +08:00 |
|