AlexaZhou
V2EX  ›  Claude

GT AI Gateway 支持本地 Agent 配置了

  •  
  •   AlexaZhou · 8h 6m ago · 349 views

    大家好,

    给开源项目 GT AI Gateway 新增了一个非常实用的新功能,想和大家分享一下。

    🎉 本次核心更新:本地客户端管理

    之前在网关配置了模型之后,需要手动修改本地的客户端配置来接入,现在直接可以直接在网关进行配置,一步搞定(可以理解成内置了 ccswitch 的功能):

    • 🛠 配置管理: 现在可以直接在程序中,为本地的 Claude Codex 进行快速配置,集中管理 API Key 和使用的模型,再也不用在各个软件里来回修改配置了。
    • 🔄 无缝协议转换: 无论你的客户端原本只支持哪种协议,网关都能在底层自动完成转换(比如 Anthropic 与 OpenAI 格式互转),彻底解决接口不兼容的烦恼。

    另外还支持了之前 v 站 网友反馈的几个需求,包括供应商支持通过代理访问等,并且整体代码上,进行了很多优化


    💡 什么是 GT AI Gateway ?(写给还没用过的朋友)

    如果你是第一次看到这个项目,简单来说,GT AI Gateway 是一个轻量级、开箱即用的 AI API 网关。

    它的核心作用是帮你聚合和管理各种大模型 API。当你手头有多个大模型接口( OpenAI, Anthropic, Gemini 等)时,可以通过它实现:

    • 🔍 请求分析与改写: 深入解析请求上下文,支持在网关层对请求体和提示词进行拦截、分析及智能改写。
    • 🔄 协议转换与兼容: 统一 API 入口,支持主流大模型协议( OpenAI 、Anthropic 等)的自动适配与双向转换。
    • 🔐 用户管理与鉴权: 支持把单个上游 API 分发给多用户使用,精准控制各自用量,有效防止上游 Key 泄漏。
    • 📝 完整请求记录: 全量记录所有 AI 请求、响应日志以及耗时数据,方便进行排查、对账和二次分析。
    • 极轻量与高性能: 低资源占用,无额外的独立数据库依赖。Serverless 模式下使用 Cloudflare 原生的 D1 数据库,其他环境下默认使用轻量级内嵌的 SQLite 。
    • 🚀 多运行模式:支持 Serverless 部署、Docker 部署、本地源码运行以及跨平台桌面端应用 (App) 运行。

    可视化分析请求: Imgur

    一站式对客户端进行配置: Imgur

    如果你在寻找一个好用的工具来统一接管你的 AI 开发流,或者想在团队内更优雅地分发大模型接口,非常推荐试一试!

    项目地址: https://github.com/alexazhou/gt_ai_gateway

    欢迎大家来体验,有任何建议都可以回帖,或者提 Issue ;

    如果觉得有用,求个 Star 支持一下~🙏

    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1089 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 17:54 · PVG 01:54 · LAX 10:54 · JFK 13:54
    ♥ Do have faith in what you're doing.