V2EX › 推理
 |
macbook 32G 内存, M5 芯片本地跑大模型有推荐的吗? Local LLM • Hermitist • 2 天前 • 最后回复来自 SayHelloHi | 24 |
 |
最近在研究学习一些 AI Coding 相关的东西，加入新的模型
1 分享创造 • alexwang0707 • 3 月 25 日 • 最后回复来自 liu731
|
1 |
 |
有没有复杂问题和抽象问题强推理能力的模型 程序员 • zzNaLOGIC • 3 月 14 日 • 最后回复来自 Jonchil | 7 |
 |
手机版小龙虾有没有意义 OpenClaw • NeverMore11 • 3 月 13 日 • 最后回复来自 NeverMore11 | 18 |
 |
Claude Opus 4.6 无限用量 如何利用 问与答 • Winner4good • 2 月 24 日 • 最后回复来自 gzxwhut | 11 |
 |
作为新质生产资料的 tokens 云计算 • beyondstars • 2 月 22 日 • 最后回复来自 chengxiao | 11 |
 |
放假前夕分享个适合打发时间的推理小游戏！ 分享创造 • wcp1231 • 2 月 12 日 • 最后回复来自 wcp1231 | 6 |
 |
[商汤/大装置] 诚邀 Rust 系统工程师共建下一代 AI 推理基础设施 酷工作 • adamcavendish • 2 月 13 日 • 最后回复来自 adamcavendish | 17 |
 |
GLM4.7 出了 Coding 套餐也可以用 程序员 • soleils • 2025 年 12 月 24 日 • 最后回复来自 byteLoading | 4 |
 |
程序员即 Agent 奇思妙想 • Hoye • 2025 年 11 月 27 日 • 最后回复来自 HSn0918 | 13 |
 |
一道三年级数学题把大模型难住了，不是说数学推理都很厉害吗 程序员 • goodryb • 2025 年 10 月 31 日 • 最后回复来自 charles0 | 56 |
 |
如果让 6 个 AI Agent 一起玩谁是卧底游戏，赢家会是？ 分享创造 • leslieo2 • 2025 年 10 月 27 日 • 最后回复来自 leslieo2 | 6 |
 |
你们平时是怎么刷题的 问与答 • nenseso • 2025 年 9 月 8 日 • 最后回复来自 boyzhang | 3 |
 |
你们可以找一个比较大的数，让大模型判断一下是不是质数 随想 • simplejian • 2025 年 8 月 20 日 • 最后回复来自 notGATE424 | 38 |
 |
硬核探索式推理类游戏推荐 游戏 • w568w • 2025 年 8 月 13 日 • 最后回复来自 dxgfalcongbit | 13 |
 |
智谱开源的 GLM4.5 怎么没人讨论 程序员 • javalaw2010 • 2025 年 7 月 31 日 • 最后回复来自 HetFrame | 25 |
 |
阿瓦隆桌游介绍：背叛与忠诚的智慧对决 游戏 • aolifu • 2025 年 4 月 18 日 • 最后回复来自 BD7KUE | 1 |
 |
这道数学题能让目前所有 AI 原地爆炸
1 分享发现 • ayang23 • 2025 年 3 月 18 日 • 最后回复来自 Samcc
|
105 |
 |
A30 显卡-24G 显存，推荐部署什么大模型呢
1 Local LLM • ZimaBlueee • 2025 年 3 月 28 日 • 最后回复来自 hefish
|
8 |
 |
用大白话来告诉你 DeepSeek 为何这么牛！ 推广 • Devis • 2025 年 3 月 7 日 • 最后回复来自 vcfger | 4 |
 |
Grok3 推理和深度搜索调研功能已经推送了，收集一些大家的经典问题来做测试 分享发现 • Liftman • 2025 年 2 月 20 日 • 最后回复来自 Liftman | 6 |
 |
秘塔 AI 接入**满血版**DeepSeek R1 推理模型 分享创造 • minkerui • 2025 年 2 月 10 日 • 最后回复来自 tycholiu | 1 |
 |
用树莓派跑了一下 deepseek 分享发现 • leconio • 2025 年 2 月 4 日 • 最后回复来自 siyushin | 9 |
 |
老黄新出的这台设备有点意思，感觉目前实验室、小公司本地部署推理模型的最优解了 硬件 • yishibakaien • 2025 年 1 月 9 日 • 最后回复来自 HelixG | 24 |
 |
三千预算本地 70b 大模型
33 Local LLM • nlzy • 2025 年 1 月 6 日 • 最后回复来自 bash99
|
60 |
 |
如何评价 OpenAI 的 o3? OpenAI • kdbtg91 • 2025 年 5 月 22 日 • 最后回复来自 lhggame | 26 |
 |
NPU 能否成为端侧推理的主流？ 问与答 • Takizawa • 2024 年 12 月 3 日 • 最后回复来自 flynaj | 2 |
 |
GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models 程序员 • OliverDD • 2024 年 10 月 31 日 |
 |
LLM 的长文本的复杂推理优化问题 OpenAI • teli • 2024 年 9 月 14 日 • 最后回复来自 TimePPT | 3 |
 |
OpenAI 的 o1 模型： o1-preview 和 o1-mini 来了，草莓是内部的称呼， o1 才是正式名称。 OpenAI • zxx0102 • 2024 年 9 月 13 日 • 最后回复来自 Vegetable | 1 |
 |
mac mini 24g 大模型推理怎么样 Local LLM • ChipWat • 2024 年 8 月 14 日 • 最后回复来自 xing7673 | 27 |
 |
喜欢罪案推理小说的朋友看过来
6 分享创造 • AGreyGhost • 2024 年 8 月 21 日 • 最后回复来自 AGreyGhost
|
98 |
 |
Claude Sonnet 和 GPT‑4o 自用下来，你们觉得哪个更值得付费？ OpenAI • daodao • 2024 年 7 月 31 日 • 最后回复来自 taotaodaddy | 23 |
 |
本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ Local LLM • cinlen • 2024 年 7 月 1 日 • 最后回复来自 crackidz | 38 |
 |
要不要拥抱大模型推理，求点醒 职场话题 • songlinliee • 2025 年 3 月 20 日 • 最后回复来自 Ethkuil | 15 |
 |
Al 可以推理 AES 算法？？ 程序员 • onlyApple • 2024 年 5 月 17 日 • 最后回复来自 proxychains | 46 |
 |
gpt-4o 和 gpt4 哪个推理更强 OpenAI • gitxuzan • 2024 年 5 月 15 日 • 最后回复来自 mewking | 5 |
 |
Windows、 Linux 平台支持类似于 apple M 系列芯片的 Unified Memory Architecture(UMA)架构吗, AI 模型跑不起来...
1 问与答 • wwwuser • 2024 年 4 月 25 日 • 最后回复来自 mortal
|
5 |
 |
[3body lang] 清明写了三天 🤔 v0.6.0 发布啦 - 支持 LLM 本地推理 分享创造 • melovto • 2024 年 4 月 12 日 • 最后回复来自 melovto | 2 |
 |
想用手头的硬件最低成本尝试下本地 LLM 推理，请教一下方案 Local LLM • avalox • 2024 年 3 月 31 日 • 最后回复来自 GeekGao | 15 |
 |
Air M3 24G 能不能跑不量化的 7B 本地大模型推理？
1 Local LLM • CatCode • 2024 年 3 月 29 日 • 最后回复来自 ozOGen
|
14 |
 |
开发了一个完全浏览器端运行的背景移除应用
1 分享创造 • rawk • 2024 年 3 月 9 日 • 最后回复来自 easyalarm
|
17 |
 |
有哪些 Deepfake 推理实现？ 问与答 • Leon6868 • 2024 年 2 月 27 日 • 最后回复来自 sujin190 | 3 |
 |
重温康波理论 生活 • azure2024us • 2024 年 2 月 22 日 • 最后回复来自 fridaycatye | 22 |
 |
[上海][全职] 二次元 AIGC 创业公司 - 算法工程师 酷工作 • tzwm • 2024 年 2 月 12 日 • 最后回复来自 mqx | 6 |
 |
都啥年代了, 还在炒啥前端, 都给我学 AI 程序员 • iorilu • 2024 年 1 月 8 日 • 最后回复来自 shinsekai | 7 |
 |
奇怪的问题，在模型推理间加入间隔导致 CPU 使用率异常的高 Python • chinabrowser • 2023 年 12 月 22 日 • 最后回复来自 chinabrowser | 3 |
 |
照片动漫化-利用本地设备进行模型推理 分享创造 • flowbamboo • 2023 年 12 月 15 日 • 最后回复来自 sub166 | 1 |
 |
再论通用人工智能（AGI）可行性 随想 • trungdieu031 • 2023 年 12 月 15 日 • 最后回复来自 metalvest | 8 |
 |
[LLM] 有哪位大佬指点下如何在 cpu 上分布式推理 程序员 • rizon • 2023 年 11 月 20 日 • 最后回复来自 t133 | 8 |
 |
分享自己开发的网页版扫雷 分享创造 • yqianjiang • 2024 年 11 月 24 日 • 最后回复来自 xuelang | 16 |
 |
关于 openai 流请求中断后， ai 推理是立即结束吗 OpenAI • alanhe421 • 2023 年 11 月 1 日 • 最后回复来自 alanhe421 | 1 |
 |
现在像 7B/13B 这类大模型，推理加速用的什么框架？ 机器学习 • Auston • 2023 年 10 月 11 日 • 最后回复来自 1311317 | 6 |
 |
C++libtorch 多线程多 GPU 推理问题 C++ • justou • 2024 年 7 月 17 日 • 最后回复来自 justou | 4 |
 |
如果你不把大语言模型 LLM 当人看，那也不会得到好的回报 OpenAI • netty • 2023 年 9 月 1 日 • 最后回复来自 xhs328 | 1 |
 |
[北京]推理优化相关职位招聘（关键词 CUDA/Triton/trt/量化/压缩/蒸馏） 酷工作 • troycheng • 2023 年 8 月 10 日 • 最后回复来自 tsubin | 3 |
 |
找开源推理模型部署（外包） 酷工作 • weber999 • 2023 年 7 月 27 日 |
 |
请教各位，做一个软硬件系统都需要配合什么开发板呢？有什么方案吗？ 全球工单系统 • Dreamerwwr • 2023 年 7 月 3 日 • 最后回复来自 JG | 1 |
|
请教各位，做一个软硬件系统都需要配合什么开发板？ 分享创造 • Dreamerwwr • 2023 年 7 月 4 日 • 最后回复来自 ryan4yin | 8 |
 |
求老哥们推荐 CUAN 一个主机，主要用来 StableDiffusion 推理绘画 问与答 • milukun • 2023 年 6 月 16 日 • 最后回复来自 spike2017 | 10 |
|
各位，请教一下，目标检测模型应该部署在什么地方呢？有什么方案呢？ 程序员 • Dreamerwwr • 2023 年 6 月 12 日 • 最后回复来自 Dreamerwwr | 3 |
|
各位，请假下，目标检测模型应该部署在什么地方呢？有什么方案呢？ 程序员 • Dreamerwwr • 2023 年 6 月 10 日 • 最后回复来自 nobody2022 | 4 |
 |
求一套做大语言模型推理的机器配置 问与答 • jingsam • 2023 年 5 月 30 日 • 最后回复来自 jingsam | 6 |
 |
[上海] 招聘 0-5 年工作经验 machine learning engineer (社招+校招+实习)
1 酷工作 • midasplus • 2023 年 5 月 22 日 • 最后回复来自 111qqz
|
6 |
 |
M2 Max(14) 对比 M1 Max(16) 的 pytorch 推理性能简测 MacBook Pro • adonishong • 2023 年 3 月 22 日 • 最后回复来自 adonishong | 13 |
 |
MegCC 新版本来啦！新增 Benchmark 等工具，性能大幅提升！ 推广 • MegEngineBot • 2023 年 2 月 7 日 |
 |
推荐一门我做的开源课程，《从零编写深度学习推理框架》，学会怎么上手一个现代风格 C++项目并且写一个超强的 ai 项目 分享创造 • hellozgfss • 2023 年 2 月 8 日 • 最后回复来自 zjwgank | 10 |
|
推荐一门我做的开源课程，《从零编写深度学习推理框架》，学会怎么上手一个现代风格 C++项目。现在我已经更新到如何实现 Resnet 中的 Convolution 层和 Im2Col 加速卷积实现了. C++ • hellozgfss • 2023 年 2 月 17 日 • 最后回复来自 peterchen26 | 1 |
|
推荐一门我做的开源课程，《从零编写深度学习推理框架》，学会怎么上手一个现代风格 C++项目。现在我已经更新到如何实现 Resnet 中的 Add 层了.
1 程序员 • hellozgfss • 2023 年 1 月 25 日 • 最后回复来自 TuneG
|
2 |
|
我的 C++/深度学习开源课程，第八课《自制深度学习推理框架-第 8.1 节-计算图中的表达式》发布了！这是一个现代 C++项目，学会之后对求职面试都是一个不错的提升哦。 程序员 • hellozgfss • 2023 年 1 月 17 日 • 最后回复来自 david98 | 2 |
|
我的 C++/深度学习开源课程，第七课《自制深度学习推理框架 - 构建自己的计算图》发布了！ C++ • hellozgfss • 2023 年 1 月 11 日 • 最后回复来自 happybird93 | 1 |
|
推荐一门开源课程，《从零编写深度学习推理框架》，学会怎么上手一个现代风格 C++项目。对于以后的面试和求职都是一个不错的项目哦！ 程序员 • hellozgfss • 2023 年 1 月 10 日 • 最后回复来自 closedevice | 6 |
|
AI 模型编译器 MegCC 开源，解决推理引擎体积问题
1 推广 • MegEngineBot • 2022 年 11 月 22 日
|
 |
（求测试）“PixAI” 效果比 waifu2x 更好的 iOS 本地超分辨率 app 分享创造 • Cola90 • 2022 年 12 月 19 日 • 最后回复来自 Cola90 | 28 |
 |
Go 实现的模型推理和 API 部署框架 Go 编程语言 • jack139 • 2022 年 7 月 28 日 • 最后回复来自 jack139 | 4 |
 |
有 V 友能推荐一个带转场识别，能纯 CPU 推理（不考虑速度）的番剧补帧工具吗？ ACG • dfgxcvbcv • 2022 年 8 月 10 日 • 最后回复来自 edis0n0 | 6 |
 |
目前深度学习视觉算法岗位，换工作有机会去做 AI 推理芯片，请大佬给点意见 问与答 • ranew • 2022 年 5 月 23 日 • 最后回复来自 ranew | 3 |
 |
#分享一款自己写的数独(数字推理)小游戏（iOS） 分享创造 • lili1397 • 2022 年 4 月 22 日 • 最后回复来自 lizhenda | 1 |
 |
#有偿求助#了解 [强化学习知识推理] [知识图谱补全] 的大佬看过来 程序员 • teemocat • 2022 年 1 月 16 日 • 最后回复来自 teemocat | 3 |
 |
周六日搞了一个，逻辑推理刷题小程序， V 站同学没事可以来醒醒脑！ 分享创造 • xiaoxuz • 2021 年 12 月 21 日 • 最后回复来自 lyj5251 | 20 |
 |
机器学习可以推理出新的规则吗？ 问与答 • dtgxx • 2021 年 11 月 26 日 • 最后回复来自 hhhhxx | 3 |
 |
可直接在浏览器使用的的图片风格迁移工具 分享创造 • vicalloy • 2021 年 10 月 14 日 |
 |
炒饭的网络迷踪版，挺有意思的，给一张照片寻找拍照地点时间，里面有挺多有意思的题目和大牛的神推理解题。 推广 • cijianzy • 2021 年 7 月 22 日 • 最后回复来自 cijianzy | 33 |
 |
AI 模型在移动设备的部署 前端开发 • Agora • 2021 年 1 月 25 日 • 最后回复来自 ruanimal | 1 |
 |
推荐一个《涂鸦识别》的 AI 安卓项目
2 Android • lanking520 • 2020 年 10 月 24 日 • 最后回复来自 lanking520
|
14 |
|
写小说当副业怎么样？ 奇思妙想 • AGreyGhost • 2024 年 8 月 16 日 • 最后回复来自 AGreyGhost | 119 |
 |
程序员中年转行择业之小说家
2 分享发现 • cynthiatxdwalla • 2020 年 8 月 31 日 • 最后回复来自 xingyuc
|
4 |
 |
自荐一下自己的 AI 开源项目，求一波关注和意见意见 问与答 • zzz9958123 • 2019 年 12 月 25 日 • 最后回复来自 q409640976 | 1 |
 |
深度学习模型部署问题
1 Python • shicheng1993 • 2019 年 12 月 21 日 • 最后回复来自 tedeyang
|
5 |
 |
助力 AI 工程师快速上线人工职能在线服务 -- 基于函数计算 + TensorFlow 的 Serverless AI 推理 机器学习 • xiliu • 2019 年 11 月 26 日 |
 |
Brilliant.org Logic Courses
分享发现 • Livid PRO |
3 |
Select Language