想搭建一个高可用的 chatgpt 服务,目前有三台服务器,如何设计分流和复杂均衡呢?求大神点醒
1
sinecw OP 可付费咨询~~~
|
2
aduangduang 318 天前
为什么不用阿里云的负载均衡?
|
3
sinecw OP @aduangduang 因为我的服务不在阿里云上
|
4
sobev 318 天前
看起来可以用 ALB 的样子
|
5
daimaosix 318 天前
看上去可以用专业的 API Gateway
|
6
daimaosix 318 天前
PM 我,安排起来
|