请教：自建反代网关挂几十个模型，失败重试和模型降级怎么做比较稳？

🌐 链接: https://www.nodeseek.com/post-995063-1
🏷️ 分组: NodeSeek论坛
🕒 时间: 2026-10-20 09:42:46
NodeSeek
请教：自建反代网关挂几十个模型，失败重试和模型降级怎么做比较稳？
背景：自己VPS上跑了个WorkBuddy反代网关（OpenAI兼容接口），国内版/国际版可切换，Telegram机器人通过/model切换，后面大概挂了50个模型，每天跑agent任务，token量不小。已做的：网关前加了访问控制，统一baseURL接入。遇到的问题：偶尔碰到上游失败，比如连续burst调用后返回