V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  nevin47  ›  全部回复第 1 页 / 共 130 页
回复总数  2589
1  2  3  4  5  6  7  8  9  10 ... 130  
一万的预算不够,本地大模型就算你一个单用户使用,你部署一个上百 B 的模型需要的显存一张 A100 都打不住,就算用 Mac 的 unimem 方案,假设你配置 128G 的内存来加载参数,也差不多 10W+的成本了,而且受限算力可用性也很差

如果涉及本地安全保密的需求,那你唯一的路径就是加预算,然后用 qwencoder-32B 这种小模型去跑
@cfancc #195 老哥正解,明明两个人很互补的性格还能闹成这样

尤其看 OP 自己说的,老婆居然还愿意花心思学习理财,OP 还觉得嫌弃。妈的这是很多男人求都求不来的好吧,只能说 OP 太木了,先学会精神上的弑父吧
我是属于不知道买啥的时候就给老婆买个金首饰的那种,反正看着就开心

我自己平时也是喜欢戴金饰,没事儿盘着就开心……
3 天前
回复了 fuwu1245 创建的主题 问与答 AI 的记忆是啥
@hafuhafu #3 最早的 RAG 还停留在 prompt 生成上,现在已经不是了
3 天前
回复了 fuwu1245 创建的主题 问与答 AI 的记忆是啥
@kdd0063 #24 看一下 engram 的 paper ,很大概率 Gemini 也用了类似的方案
4 天前
回复了 fuwu1245 创建的主题 问与答 AI 的记忆是啥
上周 DS 公开了 engram 的方案

目前来看,几个头部的 LLM 应该都使用了类似的方案
4 天前
回复了 BortonJones 创建的主题 旅行 想去三亚玩,求推荐酒店,攻略之类的
看看陵水吧,我是真心觉得三亚各方面不如陵水好玩
OP 说反了,体制内如果因为私德问题被严重警告了,那基本上仕途就这样了,就算上面有人保,那也是伤筋动骨的事儿。如果有领导职位,基本上就是调离原岗,后续想要继续任命非常难

体制外,私德反而没啥影响,该干嘛干嘛,只要不违法,企业也基本不管这个
@byp #3 不冲突的,甚至 OP 这个东西也可以放在双拼上面。只是我觉得增益不那么明显,双拼稳定的两个键输出一个字,然后偶尔生僻字选词按两个加减不会带来太大的负担。不像全拼选词时,每个加减都是额外增量
@davidtsang #2 双拼的本质上也是一种肌肉记忆。。。
emmmm ,OP 为啥不直接用双拼就行了。你这个痛点只是重码时的检索问题,但是双拼节省下来的按键次数,足够换来你若干次检索时间了
4 天前
回复了 trioon 创建的主题 问与答 求推荐 PS5 和 PC 用的 2.4G 耳机
蓝牙发射器可能更合适一些,2.4G 的耳机在现在的无线电环境中,效果非常不好
4 天前
回复了 iso223 创建的主题 职场话题 刚出社会的学生能不能珍惜一下工作啊
OP 可能没管过团队,遇到这种还要消耗你精力和能量的下属,直接劝退就行了。不要去妄图改变他人的想法,换人即可
陵水可能比三亚更好玩点
5 天前
回复了 byranb 创建的主题 生活 评价一下我应该怎么办?
@uberarctic #57 这种约等于砌墙了,改变用途了。你可以停一个拖挂车厢上去,但是长期不移动,这样就合规合法了
5 天前
回复了 hellozzh 创建的主题 生活 过年上网问题
手机开流量都不想的话,那估计买个 CPE 肯定也不愿意了。。。
5 天前
回复了 MiHwAppleTslFan 创建的主题 咖啡 想买个全自动咖啡机,有没有推荐的
如果时间不是特别紧,强烈推荐买磨豆机+半自动机。现在国产大刀盘的磨豆机好用的一批,然后咖啡机只要压力不虚标,自己做出来的比外面的咖啡店好喝一个档次

全自动机最大的问题并不是做出来不好喝,而是清洁。里面的萃取模块定期要拿来洗,这个还算不麻烦,真正麻烦的是机身里面的空隙和下粉的管路,只能用吸尘器和长刷子去定期刷,非常麻烦。如果偷懒不搞,北方的话一般是生霉,南方的话那真的是容易生小强。。。。
5 天前
回复了 byranb 创建的主题 生活 评价一下我应该怎么办?
@byranb #29 现在很多的,我们小区不少买车位然后改成储物间的。而且车位的产权归属很清晰,只要他不占其他公共空间,随便怎么弄都行。之前有物业拿不准去起诉然后败诉了,后来就形成司法案例了。
1  2  3  4  5  6  7  8  9  10 ... 130  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2667 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 40ms · UTC 09:49 · PVG 17:49 · LAX 01:49 · JFK 04:49
♥ Do have faith in what you're doing.