V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member Sign In
V2EX › 推理
 |
独立游戏] 我用 Pygame + LLM 搓了一个解谜游戏，把“海龟汤”和“逻辑狙击”做成了无限流 分享创造 • Srande • 5 days ago • Lastly replied by Srande | 2 |
 |
推荐一个 GPU 推理速度计算器, 可能方便买配件自建本地大模型的人用上 Local LLM • Hermitist • 5 days ago • Lastly replied by diudiuu | 18 |
 |
我做了一个 AI 辅助小说阅读系统，可以从 1000 万字里推理出跨越全书的身世谜题 分享创造 • lerry • Apr 30 • Lastly replied by lerry | 2 |
 |
自己做了一款在线 GPU 推理速度计算器 · TPS Calculator Local LLM • diudiuu • 6 days ago • Lastly replied by diudiuu | 12 |
 |
轻度使用了 Kimi k2.6，环境是 opencode go，推理过程给人一种极其难受的感觉 程序员 • defaw • Apr 27 • Lastly replied by maijh | 20 |
 |
昨天上线一个推理密码的小游戏，大家有空玩玩。 分享创造 • k516500 • Apr 23 • Lastly replied by siteshen | 6 |
 |
claude code 降智被实锤了
1 Claude Code • yarkyaonj • Apr 14 • Lastly replied by qiqw
|
38 |
|
macbook 32G 内存, M5 芯片本地跑大模型有推荐的吗? Local LLM • Hermitist • Apr 10 • Lastly replied by Liu6 | 25 |
 |
最近在研究学习一些 AI Coding 相关的东西，加入新的模型
1 分享创造 • alexwang0707 • Apr 3 • Lastly replied by alexwang0707
|
2 |
 |
有没有复杂问题和抽象问题强推理能力的模型 程序员 • zzNaLOGIC • Mar 14 • Lastly replied by Jonchil | 7 |
 |
手机版小龙虾有没有意义 OpenClaw • NeverMore11 • Mar 13 • Lastly replied by NeverMore11 | 18 |
 |
Claude Opus 4.6 无限用量 如何利用 问与答 • Winner4good • Feb 24 • Lastly replied by gzxwhut | 11 |
 |
作为新质生产资料的 tokens 云计算 • beyondstars • Feb 22 • Lastly replied by chengxiao | 11 |
 |
放假前夕分享个适合打发时间的推理小游戏！ 分享创造 • wcp1231 • Feb 12 • Lastly replied by wcp1231 | 6 |
 |
[商汤/大装置] 诚邀 Rust 系统工程师共建下一代 AI 推理基础设施 酷工作 • adamcavendish • Feb 13 • Lastly replied by adamcavendish | 17 |
 |
GLM4.7 出了 Coding 套餐也可以用 程序员 • soleils • Dec 24, 2025 • Lastly replied by byteLoading | 4 |
 |
程序员即 Agent 奇思妙想 • Hoye • Nov 27, 2025 • Lastly replied by HSn0918 | 13 |
 |
一道三年级数学题把大模型难住了，不是说数学推理都很厉害吗 程序员 • goodryb • Oct 31, 2025 • Lastly replied by charles0 | 56 |
 |
如果让 6 个 AI Agent 一起玩谁是卧底游戏，赢家会是？ 分享创造 • leslieo2 • Oct 27, 2025 • Lastly replied by leslieo2 | 6 |
 |
你们平时是怎么刷题的 问与答 • nenseso • Sep 8, 2025 • Lastly replied by boyzhang | 3 |
 |
你们可以找一个比较大的数，让大模型判断一下是不是质数 随想 • simplejian • Aug 20, 2025 • Lastly replied by notGATE424 | 38 |
 |
硬核探索式推理类游戏推荐 游戏 • w568w • Aug 13, 2025 • Lastly replied by dxgfalcongbit | 13 |
 |
智谱开源的 GLM4.5 怎么没人讨论 程序员 • javalaw2010 • Jul 31, 2025 • Lastly replied by HetFrame | 25 |
 |
阿瓦隆桌游介绍：背叛与忠诚的智慧对决 游戏 • aolifu • Apr 18, 2025 • Lastly replied by BD7KUE | 1 |
 |
这道数学题能让目前所有 AI 原地爆炸
1 分享发现 • ayang23 • Mar 18, 2025 • Lastly replied by Samcc
|
105 |
 |
A30 显卡-24G 显存，推荐部署什么大模型呢
1 Local LLM • ZimaBlueee • Mar 28, 2025 • Lastly replied by hefish
|
8 |
 |
用大白话来告诉你 DeepSeek 为何这么牛！ 推广 • Devis • Mar 7, 2025 • Lastly replied by vcfger | 4 |
 |
Grok3 推理和深度搜索调研功能已经推送了，收集一些大家的经典问题来做测试 分享发现 • Liftman • Feb 20, 2025 • Lastly replied by Liftman | 6 |
 |
秘塔 AI 接入**满血版**DeepSeek R1 推理模型 分享创造 • minkerui • Feb 10, 2025 • Lastly replied by tycholiu | 1 |
 |
用树莓派跑了一下 deepseek 分享发现 • leconio • Feb 4, 2025 • Lastly replied by siyushin | 9 |
 |
老黄新出的这台设备有点意思，感觉目前实验室、小公司本地部署推理模型的最优解了 硬件 • yishibakaien • Jan 9, 2025 • Lastly replied by HelixG | 24 |
 |
三千预算本地 70b 大模型
33 Local LLM • nlzy • Jan 6, 2025 • Lastly replied by bash99
|
60 |
 |
如何评价 OpenAI 的 o3? OpenAI • kdbtg91 • May 22, 2025 • Lastly replied by lhggame | 26 |
 |
NPU 能否成为端侧推理的主流？ 问与答 • Takizawa • Dec 3, 2024 • Lastly replied by flynaj | 2 |
 |
GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models 程序员 • OliverDD • Oct 31, 2024 |
 |
LLM 的长文本的复杂推理优化问题 OpenAI • teli • Sep 14, 2024 • Lastly replied by TimePPT | 3 |
 |
OpenAI 的 o1 模型： o1-preview 和 o1-mini 来了，草莓是内部的称呼， o1 才是正式名称。 OpenAI • zxx0102 • Sep 13, 2024 • Lastly replied by Vegetable | 1 |
 |
mac mini 24g 大模型推理怎么样 Local LLM • ChipWat • Aug 14, 2024 • Lastly replied by xing7673 | 27 |
 |
喜欢罪案推理小说的朋友看过来
6 分享创造 • AGreyGhost • Aug 21, 2024 • Lastly replied by AGreyGhost
|
98 |
 |
Claude Sonnet 和 GPT‑4o 自用下来，你们觉得哪个更值得付费？ OpenAI • daodao • Jul 31, 2024 • Lastly replied by taotaodaddy | 23 |
 |
本地跑 sd 和 local llm 推理, 什么显卡性价比最高？ Local LLM • cinlen • Jul 1, 2024 • Lastly replied by crackidz | 38 |
 |
要不要拥抱大模型推理，求点醒 职场话题 • songlinliee • Mar 20, 2025 • Lastly replied by Ethkuil | 15 |
 |
Al 可以推理 AES 算法？？ 程序员 • onlyApple • May 17, 2024 • Lastly replied by proxychains | 46 |
 |
gpt-4o 和 gpt4 哪个推理更强 OpenAI • gitxuzan • May 15, 2024 • Lastly replied by mewking | 5 |
 |
Windows、 Linux 平台支持类似于 apple M 系列芯片的 Unified Memory Architecture(UMA)架构吗, AI 模型跑不起来...
1 问与答 • wwwuser • Apr 25, 2024 • Lastly replied by mortal
|
5 |
 |
[3body lang] 清明写了三天 🤔 v0.6.0 发布啦 - 支持 LLM 本地推理 分享创造 • melovto • Apr 12, 2024 • Lastly replied by melovto | 2 |
 |
想用手头的硬件最低成本尝试下本地 LLM 推理，请教一下方案 Local LLM • avalox • Mar 31, 2024 • Lastly replied by GeekGao | 15 |
 |
Air M3 24G 能不能跑不量化的 7B 本地大模型推理？
1 Local LLM • CatCode • Mar 29, 2024 • Lastly replied by ozOGen
|
14 |
 |
开发了一个完全浏览器端运行的背景移除应用
1 分享创造 • rawk • Mar 9, 2024 • Lastly replied by easyalarm
|
17 |
 |
有哪些 Deepfake 推理实现？ 问与答 • Leon6868 • Feb 27, 2024 • Lastly replied by sujin190 | 3 |
 |
重温康波理论 生活 • azure2024us • Feb 22, 2024 • Lastly replied by fridaycatye | 22 |
 |
[上海][全职] 二次元 AIGC 创业公司 - 算法工程师 酷工作 • tzwm • Feb 12, 2024 • Lastly replied by mqx | 6 |
 |
都啥年代了, 还在炒啥前端, 都给我学 AI 程序员 • iorilu • Jan 8, 2024 • Lastly replied by shinsekai | 7 |
 |
奇怪的问题，在模型推理间加入间隔导致 CPU 使用率异常的高 Python • chinabrowser • Dec 22, 2023 • Lastly replied by chinabrowser | 3 |
 |
照片动漫化-利用本地设备进行模型推理 分享创造 • flowbamboo • Dec 15, 2023 • Lastly replied by sub166 | 1 |
 |
再论通用人工智能（AGI）可行性 随想 • trungdieu031 • Dec 15, 2023 • Lastly replied by metalvest | 8 |
 |
[LLM] 有哪位大佬指点下如何在 cpu 上分布式推理 程序员 • rizon • Nov 20, 2023 • Lastly replied by t133 | 8 |
 |
分享自己开发的网页版扫雷 分享创造 • yqianjiang • Nov 24, 2024 • Lastly replied by xuelang | 16 |
 |
关于 openai 流请求中断后， ai 推理是立即结束吗 OpenAI • alanhe421 • Nov 1, 2023 • Lastly replied by alanhe421 | 1 |
 |
现在像 7B/13B 这类大模型，推理加速用的什么框架？ 机器学习 • Auston • Oct 11, 2023 • Lastly replied by 1311317 | 6 |
 |
C++libtorch 多线程多 GPU 推理问题 C++ • justou • Jul 17, 2024 • Lastly replied by justou | 4 |
 |
如果你不把大语言模型 LLM 当人看，那也不会得到好的回报 OpenAI • netty • Sep 1, 2023 • Lastly replied by xhs328 | 1 |
 |
[北京]推理优化相关职位招聘（关键词 CUDA/Triton/trt/量化/压缩/蒸馏） 酷工作 • troycheng • Aug 10, 2023 • Lastly replied by tsubin | 3 |
 |
找开源推理模型部署（外包） 酷工作 • weber999 • Jul 27, 2023 |
 |
请教各位，做一个软硬件系统都需要配合什么开发板呢？有什么方案吗？ 全球工单系统 • Dreamerwwr • Jul 3, 2023 • Lastly replied by JG | 1 |
|
请教各位，做一个软硬件系统都需要配合什么开发板？ 分享创造 • Dreamerwwr • Jul 4, 2023 • Lastly replied by ryan4yin | 8 |
 |
求老哥们推荐 CUAN 一个主机，主要用来 StableDiffusion 推理绘画 问与答 • milukun • Jun 16, 2023 • Lastly replied by spike2017 | 10 |
|
各位，请教一下，目标检测模型应该部署在什么地方呢？有什么方案呢？ 程序员 • Dreamerwwr • Jun 12, 2023 • Lastly replied by Dreamerwwr | 3 |
|
各位，请假下，目标检测模型应该部署在什么地方呢？有什么方案呢？ 程序员 • Dreamerwwr • Jun 10, 2023 • Lastly replied by nobody2022 | 4 |
 |
求一套做大语言模型推理的机器配置 问与答 • jingsam • May 30, 2023 • Lastly replied by jingsam | 6 |
 |
[上海] 招聘 0-5 年工作经验 machine learning engineer (社招+校招+实习)
1 酷工作 • midasplus • May 22, 2023 • Lastly replied by 111qqz
|
6 |
 |
M2 Max(14) 对比 M1 Max(16) 的 pytorch 推理性能简测 MacBook Pro • adonishong • Mar 22, 2023 • Lastly replied by adonishong | 13 |
 |
MegCC 新版本来啦！新增 Benchmark 等工具，性能大幅提升！ 推广 • MegEngineBot • Feb 7, 2023 |
 |
推荐一门我做的开源课程，《从零编写深度学习推理框架》，学会怎么上手一个现代风格 C++项目并且写一个超强的 ai 项目 分享创造 • hellozgfss • Feb 8, 2023 • Lastly replied by zjwgank | 10 |
|
推荐一门我做的开源课程，《从零编写深度学习推理框架》，学会怎么上手一个现代风格 C++项目。现在我已经更新到如何实现 Resnet 中的 Convolution 层和 Im2Col 加速卷积实现了. C++ • hellozgfss • Feb 17, 2023 • Lastly replied by peterchen26 | 1 |
|
推荐一门我做的开源课程，《从零编写深度学习推理框架》，学会怎么上手一个现代风格 C++项目。现在我已经更新到如何实现 Resnet 中的 Add 层了.
1 程序员 • hellozgfss • Jan 25, 2023 • Lastly replied by TuneG
|
2 |
|
我的 C++/深度学习开源课程，第八课《自制深度学习推理框架-第 8.1 节-计算图中的表达式》发布了！这是一个现代 C++项目，学会之后对求职面试都是一个不错的提升哦。 程序员 • hellozgfss • Jan 17, 2023 • Lastly replied by david98 | 2 |
|
我的 C++/深度学习开源课程，第七课《自制深度学习推理框架 - 构建自己的计算图》发布了！ C++ • hellozgfss • Jan 11, 2023 • Lastly replied by happybird93 | 1 |
|
推荐一门开源课程，《从零编写深度学习推理框架》，学会怎么上手一个现代风格 C++项目。对于以后的面试和求职都是一个不错的项目哦！ 程序员 • hellozgfss • Jan 10, 2023 • Lastly replied by closedevice | 6 |
|
AI 模型编译器 MegCC 开源，解决推理引擎体积问题
1 推广 • MegEngineBot • Nov 22, 2022
|
 |
（求测试）“PixAI” 效果比 waifu2x 更好的 iOS 本地超分辨率 app 分享创造 • Cola90 • Dec 19, 2022 • Lastly replied by Cola90 | 28 |
 |
Go 实现的模型推理和 API 部署框架 Go 编程语言 • jack139 • Jul 28, 2022 • Lastly replied by jack139 | 4 |
 |
有 V 友能推荐一个带转场识别，能纯 CPU 推理（不考虑速度）的番剧补帧工具吗？ ACG • dfgxcvbcv • Aug 10, 2022 • Lastly replied by edis0n0 | 6 |
 |
目前深度学习视觉算法岗位，换工作有机会去做 AI 推理芯片，请大佬给点意见 问与答 • ranew • May 23, 2022 • Lastly replied by ranew | 3 |
 |
#分享一款自己写的数独(数字推理)小游戏（iOS） 分享创造 • lili1397 • Apr 22, 2022 • Lastly replied by lizhenda | 1 |
 |
#有偿求助#了解 [强化学习知识推理] [知识图谱补全] 的大佬看过来 程序员 • teemocat • Jan 16, 2022 • Lastly replied by teemocat | 3 |
 |
周六日搞了一个，逻辑推理刷题小程序， V 站同学没事可以来醒醒脑！ 分享创造 • xiaoxuz • Dec 21, 2021 • Lastly replied by lyj5251 | 20 |
 |
机器学习可以推理出新的规则吗？ 问与答 • dtgxx • Nov 26, 2021 • Lastly replied by hhhhxx | 3 |
 |
可直接在浏览器使用的的图片风格迁移工具 分享创造 • vicalloy • Oct 14, 2021 |
 |
炒饭的网络迷踪版，挺有意思的，给一张照片寻找拍照地点时间，里面有挺多有意思的题目和大牛的神推理解题。 推广 • cijianzy • Jul 22, 2021 • Lastly replied by cijianzy | 33 |
Select Language