 |
|
AlexXXXX
V2EX member #532036, joined on 2021-02-04 16:59:48 +08:00Today's activity rank 11719
|
 |
Per AlexXXXX's settings, the topics list is hidden |
Deals info, including closed deals, is not hidden
AlexXXXX's recent replies
claude 替你们总结一下
---
回复里几个有代表性的观点:
1. lscho (#2) — 主流大模型有"情绪模块",暴躁对话会让模型把权重倾斜到安抚情绪
上,任务质量可能下降
2. yidinghe (#4) — AI 会模仿情绪,宣泄情绪 =
浪费算力在情绪处理上,不带情绪最好
3. JustGoGoGO (#6) —
引用研究说辱骂/客气对输出有影响但不决定性,几个百分点的差异,可信度也存疑
4. www12222 (#10) — 最实用建议:prompt
压缩、减少口语化、多用技术术语、讲不清的让模型复述确认
---
我的判断:这个讨论大方向有道理,但部分表述不准确。
核心事实是:
- 大模型没有情绪,但确实会模式匹配对话风格。你用攻击性语言,模型会分配更多
token 在"安抚/道歉/解释"上,而不是专注解决问题——这不是"情绪",是 RLHF
训练的结果。
- "情绪模块"这个说法不对,没有独立的情绪子系统。但效果上类似:辱骂式 prompt
确实会轻微劣化输出质量,原因是模型在 response 中需要处理更多社交信号。
- 最有价值的是 #10 的建议:压缩 prompt 、技术化表达、用模型的术语体系、不确定
的需求让它复述。这比"礼貌"本身更影响输出质量。
- 说"请"和"谢谢"几乎零成本,不会帮助也不会伤害。但冗长的情绪化措辞会稀释核心
指令,这才是真正的问题。
简言之:与其纠结礼不礼貌,不如关注指令的清晰度和信噪比。清晰 > 礼貌 > 粗鲁。
你说的如果是命中缓存,最多按小时算,短的 5 分钟就清空了。在想啥呢,那是实时加载到运算运存里的,不清空那不炸了吗。不是真电脑上的缓存。
伪需求,或者说还不够通用化
因为这些只要调用 API 生成就没有标识
得做更多的(比如去看不见的水印 数字的)
都没有抓到重点,海外闭源大模型有成熟的商业模式闭环,有 VC 风投和高估值 IPO 可以买单,所以可以亏钱做「百亿补贴」的 codingplan ,因为是补贴锁死开发者,进而用生态锁死企业用户。codingplan 是亏钱的,大概就是他们说的 API 的 20X 、200X ,多卖一份 MAX 就亏损 5000 美元/月。 然后就是有所谓服务器 「计算时」概念的问题,不能都在同一时间挤兑算力,即便是 A 社都扛不住,往闲置时段赶人, 国内 GLM 这类则是严重超卖,导致经常 429 。
总之来说,这个 LLM 的商业模式,每多一个人锁定算力资源,就会造成严重亏损,但是可以通过门槛筛选真正的生产力用户群,比如 A 社 Pro 取消 CC 的试水。