V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
bestrui
V2EX  ›  分享创造

octopus | 为个人打造的美观优雅的 LLM API 聚合服务 支持 自动分组 自动同步上游模型 热重载 负载均衡 协议互转 用量统计

  •  
  •   bestrui · 1 天前 · 402 次点击

    🖥️ 桌面端

    首页仪表盘 渠道管理 分组管理
    首页 渠道 分组
    模型管理 日志 设置
    模型 日志 设置

    📱 移动端

    首页 渠道 分组 模型 日志 设置
    移动端首页 移动端渠道 移动端分组 移动端模型 移动端日志 移动端设置

    功能

    • OpenAI Chat / OpenAI Responses / Anthropic 三种协议互转
    • 一套配置适应不同客户端,不需要反复更新 BASEURL 和 MODEL_NAME
    • 多渠道负载均衡
    • 用量统计

    功能亮点

    • 统一的模型名称,cli 客户端无需重启即可热重载渠道和模型
    • 自动从上游更新模型价格
    • 自动同步渠道模型

    开源地址

    https://github.com/bestruirui/octopus

    目前尚无回复
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   1021 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 23:39 · PVG 07:39 · LAX 15:39 · JFK 18:39
    ♥ Do have faith in what you're doing.