hermes 有类似的 中转聚合吗
有比 LiteLLM 更优解吗
有比 LiteLLM 更优解吗
 |
1
AlexaZhou Jul 12 via iPhone
你说的是 API 网关吗？我写了一个，可以支持协议转换，跟请求可视化分析，还有缓存优化。比 LiteLLM 之类要好用很多，希望对你有用
https://github.com/alexazhou/gt_ai_gateway |
 |
2
Fitz Jul 13
自己用肯定是 CPA https://github.com/router-for-me/CLIProxyAPI
|
Select Language