alsorunning 最近的时间轴更新
alsorunning

alsorunning

V2EX 第 614527 号会员,加入于 2023-02-17 02:17:20 +08:00
alsorunning 最近回复了
2023-04-24 02:55:06 +08:00
回复了 vzong 创建的主题 问与答 Midjourney 作图有一种阴间的气息,不知道各位有没有同感
故意做成这样的。这种技巧在 stable diffusion 里叫 offset noise
2023-02-19 01:42:51 +08:00
回复了 x97bgt 创建的主题 程序员 怎么快速上手 AI 的开发和应用?
快速上手的话,先用用看现有的产品

- 识别模型那个你可以试试二哈识图
- 语言模型那个去 openai 自己的 playground 玩玩看
2023-02-19 00:55:29 +08:00
回复了 NorthSea 创建的主题 程序员 chatgpt 怎么进行连续对话
大家知道 openai 的模型输出是有字数限制的,不能超过 4000 个 token 。这 4000 token 是包含 prompt 的内容加 completion 的总和。

比方说,在 playground 中的 chat 示例,就是给定下面的文字当作 prompt:

```
The following is a conversation with an AI assistant. The assistant is helpful, creative, clever, and very friendly.

Human: Hello, who are you?
AI: I am an AI created by OpenAI. How can I help you today?
Human:
```

如果要实现对话的效果,就是让 ai 模型来续写这段文字。一旦 ai 写到 Human 这个关键字,就停下来等用户输入。这样塑造用户在与 ai 对话的错觉。

这么做的话一旦超过 4000 token ,就必须舍弃之前的内容。一般可以保留 prompt ,从最早的 completion 开始舍弃。这样的策略对于简短的问答 session 是可行的。不过,对于很长的对话却有问题。

比方说我做一个虚拟老婆,初始的人物设定放在 prompt 里没问题,不过更多人物设定是在对话中产生的,这些设定会随着内容增加。我又不希望这个模型在聊两天后把之前的设定忘了,这时候就有问题了。

我能想到的点子是:把每次 completion 的结果都当成 fine tuning ,一旦一个 session 超过 4000 token 后,就切换到 fine tuning 后的模型。

不知有没有做过这方面功能的前辈。望指点
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   977 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 22:23 · PVG 06:23 · LAX 14:23 · JFK 17:23
Developed with CodeLauncher
♥ Do have faith in what you're doing.