$V2EX
Solana
Give SOL to Copy Address
使用 SOL 向 heimoshuiyu 打赏，数额会 100% 进入 heimoshuiyu 的钱包。
Home Sign Up Sign In
 heimoshuiyu's recent timeline updates
heimoshuiyu

heimoshuiyu

V2EX member #456629, joined on 2019-12-01 14:35:05 +08:00
Today's activity rank 3567
「缓存命中率」是个伪指标，应该看未命中的缓存
分享创造  •  heimoshuiyu  •  Jun 28  •  Lastly replied by heimoshuiyu 		8
用多模态大模型来做语音输入，效果碾压 typeless
输入法  •  heimoshuiyu  •  May 27
你知道你的 coding agent 的提示词里都有什么吗
程序员  •  heimoshuiyu  •  Sep 26, 2025
vibe coding 一点也不 vibe
  •  1   
    程序员  •  heimoshuiyu  •  Sep 2, 2025  •  Lastly replied by heimoshuiyu         		17
    用视觉大语言模型检索表情包
  •  3   
    分享创造  •  heimoshuiyu  •  Aug 19, 2025  •  Lastly replied by heimoshuiyu         		11
    MCP 协议现在是一坨💩
    程序员  •  heimoshuiyu  •  Aug 23, 2025  •  Lastly replied by antipro         		17
    偶尔有转录和翻译字幕的需求，于是写了个 使用 ffmpeg(wasm) + whisper 语音转文字 + 大模型翻译字幕的 *网页工具
    分享创造  •  heimoshuiyu  •  Jun 23, 2025  •  Lastly replied by 340746         		5
    买了两年的 4060ti 觉得 av1 编码器很值
  •  1   
    分享发现  •  heimoshuiyu  •  Jul 17, 2025  •  Lastly replied by shuaishuaide         		24
    自建 PC 端的语音输入工具
    分享创造  •  heimoshuiyu  •  Dec 21, 2024  •  Lastly replied by heimoshuiyu         		4
    » More topics by heimoshuiyu
    heimoshuiyu's recent replies
    Sep 26
    Replied to a topic by Mmiracle110 › OpenAI › We need a reset, Tibo.
    i need rest
    Aug 19
    Replied to a topic by madou › 问与答 › 求便宜好用 vibe coding 麦克风
    dji mic mini 2
    Aug 18
    Replied to a topic by l764191074537 › 程序员 › 如果从 ai 原生的角度来看市面上还是有很多机会的，但是需要先定义 ai 原生
    例如学生成绩管理系统，先从 agent 交互、mcp 、skill 、a2a 交互做起，就是 ai 原生，一切以 agent 交互为出发点。从表的增删改查接口做起，就是传统应用。
    Aug 7
    Replied to a topic by Myst › 问与答 › opencode go 的 deepseek v4 flash 改成 2 倍用量了吗？
    yes
    Aug 2
    Replied to a topic by joeeey9303 › 程序员 › 除了刷 leetcode, 平时大家还会古法编程吗？
    有次改一行 api 配置，把 URL 中的 paas (platform as a service) 抄成了 pass, 排查了一个小时才发现问题。从那以后再简单的事情也会交给 agent 做
    Jul 29
    Replied to a topic by jsomin › 问与答 › 开了 6 年的网易云 vip 不准备续费了，你们都用什么听歌软件？
    自建 gonic, 客户端花点 token 自己写一个看着顺眼用的顺手的
    Jun 28
    Replied to a topic by heimoshuiyu › 分享创造 › 「缓存命中率」是个伪指标，应该看未命中的缓存
    @JackalZhao 我认为 “输出侧 tokens” 属于本应缓存命中的部分，而多数 provider 没缓存。关注缓存命中率的话你看不出这个问题，看未命中 tokens 就能发现这个问题，如我图所示，每一次请求的未命中 tokens 都大于上一次请求的输出 tokens 。

    另外，假如某个 provider 缓存临时故障，缓存命中率只会下降几个点，被使用习惯的噪声淹没。而未命中缓存指标会有一个非常显眼的凸起
    Jun 27
    Replied to a topic by heimoshuiyu › 分享创造 › 「缓存命中率」是个伪指标，应该看未命中的缓存
    @winnerczwx 我指 gpt5.5 0.3% 是输出侧 token 存在缓存的概率。一次 API 调用包括输入 + 输出两个部分，调用完成后，deepseek 会将输入 + 输出缓存起来，而 gpt 只缓存到输入。因此用户实际上为输出 token 多付了一份输入未命中的钱。

    92.7% 这个数值很难说明什么。平时使用的平均会话上下文偏长，这个数值很容易就能刷高。这也是我建议不要使用「缓存命中率」的原因。另外，ccswitch 存在消息重排序破坏缓存的草台 bug github.com/farion1231/cc-switch/issues/3934
    Jun 24
    Replied to a topic by maomaolkd › 问与答 › 天塌了，在工位眼巴巴的看着家里电脑离线
    好奇为啥无法使用有线连接？
    Jun 20
    Replied to a topic by woodyang › 程序员 › 作为程序员，大家每天使用 ai token 的数量大概是多少，是 token 使用越多，就越善于用 ai 工具吗
    应该看 prompt 次数，token 数容易受到上下文长度的影响
    » More replies by heimoshuiyu
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1108 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 17:16 · PVG 01:16 · LAX 10:16 · JFK 13:16
    ♥ Do have faith in what you're doing.