@nomagick @sillydaddy #13 当然也不止这一个项目。而且我感觉所有需要从互联网收集、整理信息的，都会遇到类似的需求：不能漏掉关键信息，不能消耗太多 token 。

@nomagick 对了，补充一下这件事的背景，其实我在做一个 govmap 项目，需要搜集国省市县乡的各机构的职责、构成、编制等等：
https://v2ex.com/t/907899#r_12559610

涉及到的文档处理比较多，需要不少的搜索工作量和整理工作量。还是希望能尽量减少一些 token 的消耗。所以，需要一个比较流程化的处理过程，比如搜索、下载、抽取关联片段、提取信息、整理为格式化数据。

@Morriaty 你的意思是不是，让大模型自己根据搜索匹配的过程，来适应性的查找？比如搜索到某些关键字，然后再扩展它的范围？也很道理。因为我的目的就是节省 token ，如果不用读全文，那就满足我的需求了。

@maolon #6 这个把关键词改写成长句的，还是第一次见到，应该是叫 HyDE 吧，还挺神奇的！我感觉挺适合我的需求的，感谢！

@IsaacYoung 感谢分享，里面提到的「父子文档」，其实跟楼上提到的依赖预制的语义结构是一样的。这个依赖条件，其实本身也需要 LLM 的介入，否则只凭借解析文本的结构、网页的结构来确定，并不稳定。

所以，感觉还是需要 LLM 的理解能力来介入，提取多层的抽象信息。但这里有个悖论，如果是整理出的知识，需要多次检索，那 LLM 介入一次，后续多次使用，效率比较高。但如果是我这种，只需要提取一次，那直接让 LLM 提取所需的信息就可以，就没必要再让向量数据库转一次手了。

前者抽取多层抽象信息，感觉跟我之前提到的笔记的网状 tag 系统，不谋而合了： https://v2ex.com/t/825142

@IsaacYoung
@cryptovae
这些方法应该能缓解，但是没有从根儿上解决。比如，如果恰好关键信息不在重叠的 token 里面呢？

关键在于，向量搜索它会漏掉。

如果是人来交互式的查看结果，可以把最匹配的 topK 个，优先展示出来，如果不满意，再动态增加 topK 。
可如果是程序来处理呢？怎么保证不会漏掉呢？

还要不要遵循用户的隐私设置？😂
https://i.v2ex.co/fZDBN5zkl.png

目前已有的理解能力，再加上缺失的持续学习，就是 AGI 了。持续学习是 AGI 缺失的一块拼图。
持续学习的关键是什么呢？ LLM 的上下文已经够大了，但是把上下文当做记忆，总感觉不太对劲。

LLM 的一整个权重，可以看作是一个具大的无状态的函数，类似于函数式编程中的纯函数，里面完全没有任何状态，我们知道，纯函数编程的一个别扭之处是，它的效率很低——最近我用 Cavalry 这个动效制作软件就深有体会，它是纯函数，没有状态，相比之下，Origami Studio 就可以保有状态，后者要比前者方便不少——LLM 把所有的状态，都存放在上下文里面。这种函数与状态分离的模式，会不会就是它效率很低的原因呢？不知道，只是瞎猜的。

这两天在用它跑数据搜集、整理的工作（ https://v2ex.com/t/907899#r_12559610 ），效果还可以。不过，正如楼上说的，价格不占优势。

命中缓存的 input 价格，是未命中的 1/5 。而 DeepSeek 是 1/50 。本来单价就比 DeepSeek 高，加上缓存就差的更多了。

我跑数据搜集和整理，100 个左右的同质的任务（单个任务比较简单），已经把赠送的 7 亿 credits ，以及$20 的 API 额度，都烧完了。折合几百块钱吧。这要是 DeepSeek ，最多 20 块钱就搞定了（我还没试，只是根据 token 换算的）。

我感觉这就是最纯粹的「熵减」的快乐吧：房间从混乱到被弄齐整，新知识从杂乱到被梳理吸收，精气神在早起时焕然一新。

@samnya 感谢补充。还有带加密的，见识到了。

@bumblebeek 哈哈，原来是这样。

更新下，使用 Claude Code 是可以的。


@bumblebeek 这个代理的原理是什么呢？我问了 AI 说是自动填充之前的 reasoning_content 。


不过，我这里有一个很大的疑问，如果要让模型提供商那里的 KV 缓存起作用，本来就应该把 thinking 的内容传过去吧？否则服务端怎么做前缀匹配然后找到缓存呢？为什么 OpenAI API 兼容协议中，reasoning_content 还会是一个可选项呢？

@pengyvz
@Sezxy
感谢，我先试试 Claude Code 行不行。不行的话我再试试 OpenCode 。

哈哈，这些话我至少有 8 成都说过。

利好 v 站：创意工作者的社区。

@sillydaddy 上面说的就是楼上说的滑点。流动性池有限导致的价格滑动。另外还有固有的手续费（ 0.3%左右吧）。加起来就是你看到的价差。

正如楼上说的，因为流动性不多。
看下面这张图：
https://i.v2ex.co/DQf128R6l.png

AMM 曲线是 XY=K ，其中 X 是 SOL 币，Y 是 V2EX 币。

假设在你买之前，池子中 SOL 和 V2EX 的库存，位于曲线的红框位置的点位。

可以看到红框的竖直高度，代表了池子中 V2EX 币数量的变化量。红框的水平宽度代表了池子中 SOL 币数量的变化量。
也就是说，你在用 SOL 币购买池子里的 V2EX 币时，点位会沿着曲线向右下移动。

现在你需要从池子中购买 10000 个 v 币，假如说买完这 10000 个 v 币后，点位还在红框范围内，那说明价格变化不大。但如果说 10000 个 v 币数量超出了红框竖直高度，那点位就继续滑动到第一个蓝框，或者第二个蓝框，甚至更下面的位置。

这时候，价格就变的高很多！

卖出 V2EX 币时同理，点位会向上滑。

如果 K 值比较小（也就是 X,Y 都比较少，流动性池子比较小），那么 10000 个 V2EX 币对应的滑动范围就很大。


如果形象理解的话，你看图片里面，每个框其实都表示在该价格下的可以提供的流动性（即可买的数量）。买完了这个流动性，就会挪向下一个价格点位！每个价格点提供的流动性是有限的。你可以算一下现在 V2EX 币的流动性，这 10000 个 V 币数量的变化，相比目前的流动性，可并不算小。