这是一个专门讨论 idea 的地方。
每个人的时间，资源是有限的，有的时候你或许能够想到很多 idea，但是由于现实的限制，却并不是所有的 idea 都能够成为现实。
那这个时候，不妨可以把那些 idea 分享出来，启发别人。
每个人的时间，资源是有限的，有的时候你或许能够想到很多 idea，但是由于现实的限制，却并不是所有的 idea 都能够成为现实。
那这个时候，不妨可以把那些 idea 分享出来，启发别人。
电力+算力=token ，但是 token 也有电力的性质，生产得同时就必须被消耗掉。 保存电能的方式是通过转换成其他形式的能量，蓄水，电池等等。 那么有什么办法保存生产的 token 。且允许该物质可以转换回 token 的形式呢？
 |
1
xtreme1 1 天前  1
您要找的是不是: cache
|
 |
2
fisherman0459 1 天前 5
先有模型后有 token 概念, 或者你
token 期货 上杠杆做多 GPT-6 token token 理财，收你 1M GPT-5.4 token, 给你 1.2M GPT-6 token 小额 T 贷, 0.9 收, 1.1 卖 T 币, 独立站接收 token 付款, 单模型 token, 分期多模型 token |
 |
3
patrickpu 1 天前 1
很有想法，但是没啥意义，独立的 token 没有意义，有意义的是连贯的知识，从物质来说算力最终转换成了热量消散了
|
 |
4
AlanTeng 1 天前
token 换成钱,钱再换回 token
|
 |
5
ksc010 1 天前
token 和流量一样 你用的时候才消耗， 不用的时候是不消耗的，消耗的过程才有流量的概念
和电等能源还不大一样 |
 |
6
icyalala 1 天前
token 只是统计值，是计算的结果
比如说，我每小时的精力只能写出 1000 个字的剧情 那有没有办法把精力保存，放到月底的一天，一次性转换为一整部小说呢 |
 |
7
sddyzm PRO 下一步 token 挑战法定货币
|
 |
8
berrybeberry 1 天前
所以还是储存电力
|
 |
9
kakuxwn 1 天前
前段时间在电梯里一个女的打开抖音，抖音视频开头大概这么说的：为什么说 token 是中国真正意义的电力储存？
大家听了什么感觉？ |
 |
10
cli007 1 天前
一台服务器，没人访问的时候，它的状态是什么样的？
|
 |
11
lavvrence 1 天前 1
LLM 的 Token 不是像电力那样被生产然后用于消耗的能量资源，而是使用资源之后被计算/推理出来的结果本身。
|
 |
12
Haku OP @xtreme1 是否存在在某些特定领域极小的范围内，让所有的问题都能命中 cache ，从而达到解决问题的目的？不考虑引用某个 cache 回答让模型回答的迭代情况。
|
 |
14
hahiru 1 天前
token 是用钱买算力计算后产生的结果，可以传播变现，最终转换为人民币存储。
|
 |
15
nc 1 天前
Google 的 AI overview 就是有缓存的，如果相同的搜索已经生成了 overview ，就会直接返回不会再次生成。算保存了吗？
|
 |
16
superrichman 1 天前
你是否在寻找：Semantic Caching 语义缓存
可以参考巨硬的文章 https://learn.microsoft.com/zh-cn/azure/cosmos-db/gen-ai/semantic-cache |
 |
17
unused 1 天前
啊？ Token 是你说的这个意思吗？
|
 |
18
maojun 1 天前 via iPhone
何意味
|
 |
19
Kevin2 1 天前 via Android
换句话问：ai 用户者的输入可以保存以复用吗
|
 |
20
Cheons 1 天前 via Android
？
token 不是个计量单位吗？本身就会被保存，但作为计量单位有什么价值？ 1kb 也需要电力+算力存储，然后呢 |
 |
21
ichencs 1 天前
可以啊，存在脑子里就好啦，脑容量得大
|
 |
22
zsh2517 1 天前
可以，详见文章《“词元”这么火，该注意点啥？》，只要把 token 转换成“令牌”，就可以保存到文件了；如果转换成“权益”，你甚至可以发行实体卡 /doge
--- 正经回复：如果你想找的是“蓄电/蓄能”类比意义下的蓄 token ，那么不能，因为 token 本身就是一个虚拟的概念，并且产生和消耗是在一个过程中完成的（显卡推理下文的时候，每产出一个新的词元，对于显卡来说，它产生了一个 token ，而对于你来说，消耗了一个 token ）。不像比如电力等，有物理存在形式，生产和消耗是分离的，能传输能保存 但是，如果广义的说，有很多不同方面的“保存”，比如说，大语言模型提供商的缓存能力、夜间批量推理享受谷价、修改政策涨价之前买了订阅、借别人的额度再还、甚至动用一些经济手段从上下游干预进而相同费用获得更多 token ，都可以算是屯了 token |
Select Language