Home Sign Up Sign In
skai
V2EX  ›  OpenAI

codex++ 都有中转聚合了

  •   
  •   skai · 7h 20m ago via iPhone · 753 views
    hermes 有类似的 中转聚合吗

    有比 LiteLLM 更优解吗
  • 中转
  • 聚合
  • LiteLLM
    1 replies  •  2026-07-12 19:29:11 +08:00
    AlexaZhou
        1
    AlexaZhou  
       6h 28m ago via iPhone
    你说的是 API 网关吗？我写了一个，可以支持协议转换，跟请求可视化分析，还有缓存优化。比 LiteLLM 之类要好用很多，希望对你有用

    https://github.com/alexazhou/gt_ai_gateway
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1065 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 53ms · UTC 17:57 · PVG 01:57 · LAX 10:57 · JFK 13:57
    ♥ Do have faith in what you're doing.