Skip to content

Bug: 路由默认不换号——候选被默认常量截断、「指定错误码直接换号」名单语义与路由职责相反 #644

Open

Description

@isee22

级别

bug(不是功能建议)。默认配置下就会发生:路由组里明明还有可用候选,上游报错仍然落到客户端,请求中断。与路由本身要承担的职责(让下游稳定运行、不中断)直接冲突。

与 #643 是同一类缺陷的两个面:#643 是「报错了却没换」,这条是「规则本身让『不换』成为默认」—— 包括候选被默认常量截断、「指定错误码直接换号」名单只决定要不要原地重试、失败不落熔断 / 限额状态。

期望行为(即修复后的验收口径)

  1. 候选全量:路由组把每个成员下的账号与上游模型全部纳入候选;没被显式排除的账号都参与选路。候选数量由「有多少可用账号」决定,不由默认常量(现在「切换账号重试次数」默认 5)提前截断。
  2. 默认换号:上游返回任何错误 —— 4xx / 5xx / 超时 / 流内错误帧 / 200 包裹的业务错误 —— 都视为「这个账号 × 这个模型这一次不可用」,立即顺延到下一个候选(可能换账号、换提供商,路由组内还可能是另一个成员模型)。不做同一账号的原地重发,也不把错误透传给下游。
  3. 例外可配:设置项「指定错误码直接换号」的语义现在是「命中这些码才直接换号」,这与路由的默认职责相反。应改成「这些码是例外:允许直接把错误返回下游、不换号」;留空 = 一律换号,任何错误都不透传下游。
  4. 失败必记账:每次失败都要落到运行期状态(按错误类型选一种):额度 / 限流 → 账号×模型冷却(带恢复时刻);账号级封禁 / 鉴权失败 → 熔断或「需要重新登录」;其余错误 → 退避。后续选路自动跳过,而不是只靠「本次请求的 tried_ids」临时绕开 —— 现在很多失败只累加计数,没有阻止下一条请求重新撞同一个账号。

复现

  1. 建一个路由组,成员来自不同提供商,合计 10+ 个候选。
  2. 设置里「通用 → 请求重试」不填任何错误码,其余默认(切换次数 5)。
  3. 让队首账号回 429(或 502):客户端拿到错误,attempts 只有 1;候选更多时也会在第 6 个左右收尾。
  4. 把名单改成空后重启:行为不变,说明「不填」并没有被当成「全换」。

兼容与边界(修复时必须处理)

A. 语义反转的兼容
旧名单配过的值(含默认 [402])在新语义下会变成「这些码不换」,意思正好相反。需要给配置加显式模式字段(directSwitch / passthroughExceptions)做一次性迁移,或在升级时清空名单并在 UI 写明变更。六语文案(desktop-tauri/ui/i18n 与 mobile/src/i18n.ts)与设置页说明必须同步。

B. 「下游不中断」的物理边界
首字节下发之后无法换号,所以判定必须发生在首字节之前:非流式先聚合再决定;流式需要首段预读 / 门控(现在只有声明了 stream_refusal_finishes / stream_refusal_markers 的家有,见 core/upstream/refusal.rs)。预读窗口之后才出现的错误物理上只能断流,这条要写进文档,不能让用户以为任何错误都能无感重试。

保留的例外(不适用「一律换号」)

  • 生图请求:结果不确定时换号会重复消耗额度,维持直接收尾;
  • 手动终止:用户点了终止,不再顺延;
  • 固定账号(模型测试 / 固定生图账号):候选池只有一个,换号会污染测试结论;
  • 已下发首字节之后的流内错误:见上面 B。

验收标准

  1. 路由组 30 个候选,队首账号回 429 → attempts ≥ 2,第一轮落「账号×模型冷却」,第二轮换到另一个成员,客户端拿到 200。
  2. 名单留空时,400 / 403 / 500 也一律换号;名单填 400 时,400 直接返回下游且 attempts = 1。
  3. 同一账号连续失败到阈值后进入熔断,后续请求的 route.ordered 里它排到队尾或被 blocked,不会每条请求都先撞一次。
  4. 429 之后的下一条请求不再选到同一账号(冷却键 = 上游真名,映射 / 别名场景也要命中)。
  5. 会话粘性绑定的账号失败后,同会话下一条请求不再先打它。
  6. 以上行为在默认配置下即成立,不需要用户手动配置。

影响面

  • 后端:core/upstream/provider_loop.rs(重试与顺延闸门)、core/upstream/rotate.rs(选路与冷却)、core/upstream/route_state.rs(熔断 / 退避 / 粘性)、config/types.rs(名单语义与默认值);
  • 前端与文案:设置页「通用 → 请求重试」、账号页「失败后顺延其他账号」、路由组说明、六语文案;
  • 文档:docs/ 里关于路由与重试的说明(六份译文同步)。

🤖 本条回复由 AI Agent 生成

Activity

  1. coderabbitai commented on Nov 21, 2026

    @coderabbitai
    ⚠️ Possible Duplicate Issue(s)

    🔗 Related PRs

    #595 - 修复:上游错误统一按候选失败顺延 [open]
    #592 - Fix/transient 5修复:上游瞬态 5xx 不再绕过账号/模型顺延xx failover [open]
    #601 - 修复账号级失败不换号,并为限制器与熔断补秒级恢复倒计时 [open]


    📝 Issue Planner

    Check the box below or use the @coderabbitai plan command to generate an implementation plan and prompts that you can use with your favorite coding assistant.

    • Create Plan

    🧪 Issue enrichment is currently in open beta.

    You can configure auto-planning by selecting labels in the issue_enrichment configuration.

    To disable automatic issue enrichment, add the following to your .coderabbit.yaml:

    issue_enrichment:
      auto_enrich:
        enabled: false

    💬 Have feedback or questions? Drop into our discord!

  2. changed the title [-]建议:路由默认「任何上游错误都换号」,把「指定错误码直接换号」改为允许透传下游的例外名单[/-] [+]Bug: 路由默认不换号——候选被默认常量截断、「指定错误码直接换号」名单语义与路由职责相反[/+] on Nov 21, 2026
  3. isee22 commented on Nov 21, 2026

    @isee22
    Author

    已按这个口径提交修复:#648(base beta)。

    要点:

    • 换号预算改成 max(设置值, 候选队列规模)(仍受转发层 32 次硬闸)——「试完队列」不再被 5/10 次默认值截断。
    • 本地构造期的错误(网页工具请求超过 16000 字符预算这类)不再写死 return Err,统一走错误规则;且按「跳过这一家」处理:同一家换账号撞的是同一堵墙,本次请求直接排掉该家全部候选,只给失败的 账号×模型 落冷却。
    • bad_request / content / unknown 不再硬终止,403 与权限类移出 hard_stop;插件报的裸 stop 只表示「别原地重发」,不再顺手掐掉换号。
    • 有错就落限制器:这几类补 fixed 60s(模型维度)冷却,旧存盘规则按 rulesVersion 升级补齐,用户自配的例外(透传名单)原样保留。
    • 「指定错误码」名单语义反转为「命中 = 允许透传下游」,默认空 —— 默认任何上游错误都换号。

    🤖 本条回复由 AI Agent 生成

  4. isee22 commented on Nov 21, 2026

    @isee22
    Author

    这条的修复已落在 PR #648,其中「换号上限截断」这一项刚补了第四批改动(2f69e3a0):

    • MAX_SWITCHES / RETRY_MAX_SWITCH_COUNT / 转发层 MAX_ROUTE_ATTEMPTS 三处统一抬到 100,默认值仍是 32,账号多的人可以在设置里调到 100;前端输入框与校验上界、五语提示同步改成 0–100。
    • 候选全部处于冷却时不再直接回 429 routing_cooldown:新增 last_resort,只越过我们自己按退避估算的冷却(guessed = true)先试一次,上游明确声明过的冷却(guessed = false)照旧尊重;顺延路径队列为空时同口径兜底,不再以「当前路由没有其他可用对象」直接收尾。
    • provider_local 的 400(网页工具预算超限等「同一份 body 撞同一堵墙」)的冷却从「只罚撞墙账号」改成铺到该家全部账号,键仍是模型维度,后续请求不会再去同家另一个账号撞一次。

    🤖 本条回复由 AI Agent 生成

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions