推荐一个开源 LLM 网关： Bifrost，支持负载均衡和故障切换

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

Golang 开发的，低占用、高性能。主要特点是可以聚合多家 AI 大模型统一调用，且支持负载均衡和故障切换，避免免费大模型出现 429 的尴尬。

写了一篇文章介绍如何部署和配置：https://blog.xiaoz.org/archives/22835

6 条回复 • 2026-03-27 13:18:03 +08:00

GlobalNPC

1 天前

字节内部抓包工具也叫 Bifrost

xiaoz

1 天前

@GlobalNPC 网上搜了下叫 Bifrost 的项目好像还不少，不特别指明是大模型网关，AI 都不知道说的哪个。

leena

22 小时 56 分钟前 via iPhone

有一个代理 app 也叫这个名字，不过好久没更新了

wm5d8b

19 小时 10 分钟前

高级功能都得企业版，免费版不如 one-api 的分支

xiaoz

16 小时 10 分钟前

@wm5d8b 看个人用途吧，one-api 很多功能我用不上，我主要用 Bifrost 的负载均衡和故障切换。Bifrost 路由更强大一些。

hellskof

1 小时 17 分钟前

@leena 安卓 APP 吧，装过，很久没更新了，后面没用了