V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
john990
V2EX  ›  程序员

有偿:熟悉 aws lambda 和 nodejs 的 v 友帮忙写一个 openai 套壳接口

  •  
  •   john990 · Jul 30, 2023 · 1542 views
    This topic created in 1012 days ago, the information mentioned may be changed or developed.

    自己一顿操作,写了 Firebase Functions 的套壳,结果发现支持 stream ,所有结果返回后才会统一吐回客户端。

    调查了一下,发现 AWS Lambda 支持,但是我对 aws 不熟,也几乎没写过 nodejs ,想找个人帮忙写一下。

    具体需求:

    1.将 Firebase Jwt 接入 AWS 的 jwt 验证

    (这个我大概搜了一下,似乎配置一下就可以,如果我理解的不对欢迎指出)

    2.请求 Azure OpenAi 接口,并以流式结果返回(每个 token 以 json 形式返回客户端)

    应用还没上线,暂未盈利,所以预算有限,可以接受 1000 左右。

    有意可以加我 VX:T2h2bm5ubg==

    Supplement 1  ·  Aug 2, 2023
    已经找到了,结贴,感谢 v2
    john990
        1
    john990  
    OP
       Jul 30, 2023
    大佬们帮帮忙🥲
    zbinlin
        2
    zbinlin  
       Jul 30, 2023   ❤️ 1
    没找到人可以 Email 联系我
    john990
        3
    john990  
    OP
       Jul 30, 2023
    @zbinlin #2 发你邮件了
    john990
        4
    john990  
    OP
       Jul 31, 2023
    仍然有效
    MintZX
        5
    MintZX  
       Jul 31, 2023
    我倒是用 AWS lambda 做了 python SDK 的 openai 套壳,但是好像没有能以流形式返回结果的方式。
    MintZX
        6
    MintZX  
       Jul 31, 2023
    对了,Azure OpenAI 的接口就算是用流的形式返回,也受限于 request + response <= 4096 token limit 的限制。这是 OpenAI API 的限制,跟是否用流的形式返回没有关系。
    john990
        7
    john990  
    OP
       Aug 2, 2023
    @MintZX #5 可以用流,不过只支持 nodejs
    MintZX
        8
    MintZX  
       Aug 2, 2023
    @john990 #7 这样啊,好吧我确实不太清楚。我不知道你是如何确定可以用流的,不过如果你都确定可以用流了的话自己做就好了。本身 openai 的那个 sdk 就非常简单,好像就三四个参数。
    john990
        9
    john990  
    OP
       Aug 3, 2023
    @MintZX #8 AWS 官方文档说可以用流,主要对 nodejs 不熟,不过已经被 v 友完成了,再次感谢 v2
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3228 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 14:42 · PVG 22:42 · LAX 07:42 · JFK 10:42
    ♥ Do have faith in what you're doing.