V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  mingtdlb  ›  全部回复第 2 页 / 共 71 页
回复总数  1404
1  2  3  4  5  6  7  8  9  10 ... 71  
18 天前
回复了 mingtdlb 创建的主题 Local LLM 跑本地大模型 电费要多少?
@VeteranCat #1 TDP450 吧,我记得,那跑不了 400w 吧,稳定能跑到 350w 就很不错了。8 卡 40990 的使用效果是怎样的,没部署过,评判不了。

@ldy619354397 #2 以现在市面上的定价,token 工厂生产商应该是不赚钱的,但人家的收入不在这

@BingoXuan #4 这种小参数的,没什么应用场景吧,我感觉最少要到 35B ,70B 算凑合。
你用 sonnet 还不如用 glm 、deepseek 这些国内的...

是产品替品牌说话,不是品牌替产品说话
那个扣费就是玩不起,一边打着免费额度,一边欠费了不及时停服,等扣了几块、几十块再给你停服。工单处理慢的一匹,人工态度也不行,跟公司欠薪了似的。

总之不是头部的,还是别用了吧
deepseek 开源 llm 做出的贡献,并不说明他们员工素质高啊,“天才少年”也同理。总之成绩不代表人品

面试看实力、谈吐、眼缘等等
像阿里这种巨头,用其他家的 LLM ,属实不合适。
23 天前
回复了 sharkCapt 创建的主题 问与答 为什么称 Gemini 是“美国豆包”?
知名度够,但智商不够吧。跟豆包一样


我是今年用发现智商差,去年感觉还行的。
25 天前
回复了 autumncry 创建的主题 Claude 服气了, claude 现在免费号疯狂封号啊
无感,门槛太高,这家模型只在中转站用过,GPT 别这么搞就行😂
最近是有什么政策要求吗
1 元富不了你,穷不了大家。改成每周/每月至少反馈一条使用感受,稳定上线后就可以销售了。
25 天前
回复了 s290305915 创建的主题 Claude 这个是真的注入攻击还是幻觉
这种我在本地部署的 qwen 出现过,不停的胡说八道,各种语言冒出来(日文、英文、中文)
哪里的快剪,12/次相当便宜啊

宽带这个,其实主要是流量,带宽大小 使用感知不明显,又不是天天下载东西,延迟低、稳定就够
25 天前
回复了 albin504 创建的主题 程序员 开源大模型成就了 workbuddy
@wcwcxiaobin #2 很明显混元失败了,比娱乐包还垃圾。98 年那哥们能做起啥啊,真的拉跨。要说后来几家搞大模型的还是小米牛逼,当然是站在 ds 的肩膀上。
6 月 27 日
回复了 mingtdlb 创建的主题 问与答 大模型的输入大小限制是网页 chat 才有?
@ztm0929 #2 看了下,这个 max_tokens 是补全的吧?最大输出长度是 384K ,最大输入长度估计是没限制,用上下文长度 1m 。
6 月 27 日
回复了 ykz 创建的主题 问与答 该如何致敬这轮操蛋的 AI 革命?
钱都给能源、芯片这两层赚走了
6 月 26 日
回复了 mingtdlb 创建的主题 问与答 win11 上剪贴板用哪个
@wzbrbj #15 这不是跟那个 clash verge rec 一样,占用大的。![image.png]( https://wp-cdn.4ce.cn/v2/3KCGQPL.png)
1  2  3  4  5  6  7  8  9  10 ... 71  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1234 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 40ms · UTC 17:23 · PVG 01:23 · LAX 10:23 · JFK 13:23
♥ Do have faith in what you're doing.