V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  wwhc  ›  全部回复第 1 页 / 共 26 页
回复总数  511
1  2  3  4  5  6  7  8  9  10 ... 26  
如果有 linux 系统,用 openssh 就行了
推荐 Qwen2.5-14B-Instruct-1M-Q5_K_L.gguf 或 Qwen2.5-7B-Instruct-1M-Q6_K_L.gguf ,不建议 Distill 版本,Distill 版本更于擅长于解决推理或数学问题。另外建议直接使用 llama.cpp
8 天前
回复了 xm726 创建的主题 分享创造 Manus 在线体验 | AI 智能读书摘要工具
很遗憾,这种炒作方式令人对这个产品产生反感
11 天前
回复了 klo424 创建的主题 Local LLM 求 DeepSeekR1 性价比硬件推荐
二代以上 Epyc 32 核心或以上,8 通道 DDR4 或 12 通道 DDR5 ,可确保首 1000tokens 输出在 4 tokens/s 或以上。Epyc 五代极度优化下应该能有 10 tokens/s 的能力。建议避免配置双 cpu ,尽可能使用 llama.cpp 而不是其它推理系统
19 天前
回复了 B1ankCat 创建的主题 Linux 关于最近 R4L DMA 事件的 Linus 回应
R4L 的维护者改用 C 是更妥当的解决方案,看不出一定非要 RUST 的理由
建议避免进食野外钓获的鱼类,可能存在重金属及化学物积累,对人体健康存在风险
95 天前
回复了 TestFlight 创建的主题 深圳 色弱人群现在驾照体检简直是地狱级难度
在加拿大别说色弱,色盲都可以考驾照和开车,能通过笔试和路考就行
完全不影响
联想的 tiny 主机最适合, 二手的很便宜
273 天前
回复了 uriel2333 创建的主题 音乐 各位吴彦祖能分享一些比较嗨的摇滚歌曲吗
276 天前
回复了 wizzer 创建的主题 宽带症候群 求家庭机柜散热最佳方案
Arctic 有 TC 系列风扇,由温度控制转速,绝大部分情况下噪音极小,楼主可以考虑
296 天前
回复了 KJH 创建的主题 问与答 究竟什么是爱?
323 天前
回复了 Persimmon08 创建的主题 OpenAI 这个问题,大家的 GPT 都能答对吗?
Mixtral 8x7b Q6_K:
当 x 趋近于 0 时,有:

lim_{x to 0^+} y = lim_{x to 0^+} x ln(1+frac{1}{x})=0

当 x 趋近于正无穷大时,有:

begin{aligned}
lim_{x to +infty} y &= lim_{x to +infty} x ln(1+frac{1}{x})
&= lim_{x to +infty} frac{ln(1+frac{1}{x})}{frac{1}{x}} &text{(使用}frac{0}{0}text{型拆分)}
&= lim_{x to +infty} frac{frac{-1}{x^2(1+frac{1}{x})}}{frac{-1}{x^2}} &text{(应用}mathrm{l'Hospital rule)}
&= 1
end{aligned}

因此,当 x 趋近于 0 时,lim_{x to 0^+} y = 0 ;当 x 趋近于正无穷大时,lim_{x to +infty} y = 1 。
@scguanzhong Dell 那么差了么?哪个型号的?
建议联想、HP 、Dell 的 1 升迷你主机
真正保护公司/个人信息数据的只能是在本地部署的开源大模型如 LLAMA/Mistral ,这才可以脱离互联网使用,没有数据泄漏的状况。把数据送到外部 AI 服务,没有任何私隐可言
@BeyondReach 建议在 16G 内存或 10G 以上显存的设备上部署 Mistral 7B
MistralAI 的开源模型支持 32K Tokens 或 64K Tokens
1  2  3  4  5  6  7  8  9  10 ... 26  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2973 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 39ms · UTC 03:10 · PVG 11:10 · LAX 20:10 · JFK 23:10
Developed with CodeLauncher
♥ Do have faith in what you're doing.