开源免费,多模型调用不用自己写调度逻辑了。 Sturnus 是个开源工具,帮你把多个大模型供应商的调用流量按延迟和可用性自动调度,哪个快、哪个稳就走哪个。 它 MIT 协议开源免费,做成单一静态二进制 sidecar,不用 Redis、不用控制平面,部署起来很轻。对外暴露兼容 OpenAI 的 API 接口,现有调用基本不用大改就能接上去。 路由按首块响应延迟与错误率动态算,某路变慢或出错就自动切走,服务恢复后还会自动切回流量。 说清楚一点...

🌐 链接: https://x.com/taiyanghere/status/2114764174358384764
🏷️ 分组: X|太阳(taiyanghere)
🕒 时间: 2026-10-27 01:00:44