刚在 OpenAI 文档看到的,以前没注意到
刚在 OpenAI 文档看到的,以前没注意到
|
tttinJun 26, 2023
1
据说可以编写 5000 字的长文。我的 azure openai service 月初申请到了 turbo-16k 和 gpt-4 这两个模型,但当时没注意,胡乱操作几下就再也找不到了
|
|
liantianJun 26, 2023
2
你只要注意,任何情况下都是 4 倍计费就完事了..
自己写程序,注意判断好用 gpt-3.5-turbo 还是 gpt-3.5-turbo-4k |
|
leipengchengJun 26, 2023
3
为什么我用这个模型,java api 调用,但是 token 还是只有 4k
|
|
4
原来邮件里讲了,就是贵点
Longer Context We're also introducing gpt-3.5-turbo-16k. This model offers four times the context length of the 4k base model and is priced at $0.003 per 1K input tokens and $0.004 per 1K output tokens. |
|
wanjiawei0755Jun 26, 2023
5
@chaotttin #1 Azure 应该还没有 16k 吧,我记得社区里面回答说暂无计划,包括 0613 版本的模型
|
|
lanlanyeJun 27, 2023
6
随着 613 版本一起更新的啊,3.5 降价了,但推出了稍微贵一些的 16k 版本,并不需要申请。
效果的话由于 tokens 变长了,长文总结或者 agent 之类的用法超出限制的可能性减小了,聊天也可以记录更多上下文了。 但上下文始终会对结果产生影响,长了有时未必是好事。 另外新模型支持的 Function calling 功能很有用,效果比 langchain 好一些,想尝试的话可以试试我写的小工具 https://github.com/laipz8200/openai-agent |
|
MEIererJun 27, 2023
7
限制比普通的 turbo 大,不能整色色
|