V2EX › rogerer 的所有回复 › 第 3 页 / 共 6 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6

❮

❯

217 天前

回复了 chouqiu 创建的主题 › 程序员 › 如何让 AI 稳定的输出指定 json 结构

1. prompt ，现在 LLM 在对齐阶段一般做过格式的对齐，所以直接让输出 JSON 效果就会不错，如果还是不行把温度系数调一下；
2. 受限解码，大致思想是要求 LLM 的 output 必须符合某个语法结构，如果不行就重新采样。好处是可以保证一定不会出现格式错误，但是这样做的问题是会影响本身的性能，不推荐；

218 天前

回复了 itsCoderStudio 创建的主题 › 程序员 › 客户端研发上手后端需要几天？

@itsCoderStudio 有 ChatGPT 怕啥，现在最不需要的就是对具体语法的了解

219 天前

回复了 nnegier 创建的主题 › 程序员 › 小米的官方的技术博客在哪儿呀，有在更新吗？

@maocat 有推荐吗

220 天前

回复了 RealApe 创建的主题 › 程序员 › 为什么 AI 在传统软件上推进这么缓慢？

@yvescheung Adobe 最近在大量招募做 CV 的人，他们的抠图工具、填充工具都在用新的技术

220 天前

回复了 RealApe 创建的主题 › 程序员 › 为什么 AI 在传统软件上推进这么缓慢？

因为 LLM 目前为止主要的用途还是做文本生成。

220 天前

回复了 akakidz 创建的主题 › 健康 › 28 岁突发性耳聋，给脑力劳动的各位朋友们提个醒

突发性耳聋治疗时间窗就一星期，错过这一星期是什么样就是什么样了

223 天前

回复了 murmur 创建的主题 › 程序员 › 从学习角度来说，不折腾模型精调和模型训练，购买第三方 api 是不是最划算的

是的，自购硬件绝对是不划算的。服务商能跑满 GPU ，基本上不留空闲，个人很难做得到。

225 天前

回复了 qsnow6 创建的主题 › Visual Studio Code › 为什么 VScode 的 copilot 这么慢？

@Loocor cursor 做到这件事情应该是先做检索，找到需要修改的片段。这里的难点是，检索出来的内容不一定是唯一需要修改的，所以 copilot 直接做全量 edit 。

225 天前

回复了 dbskcnc 创建的主题 › Visual Studio Code › copilot chat 开源且将整合到 core

@dbskcnc 做得确实也不够好，无论是用户体验上还是生成质量

226 天前

回复了 pythonee 创建的主题 › Python › 还有类似 pandas 提升运营人员效率的工具么

可能需要一个 BI 平台

226 天前

回复了 zfyime 创建的主题 › 分享发现 › 我感觉腾讯元宝的客户端做的还不错

@zfy941 嗯... Claude 的客户端经常卡死

227 天前

回复了 zfyime 创建的主题 › 分享发现 › 我感觉腾讯元宝的客户端做的还不错

@zfy941 这一轮 chatbot 的客户端应该基本上都是 web 技术，包括 OpenAI 、Claude 、Gemini 这些

229 天前

回复了 zzzain46 创建的主题 › 问与答 › 有没有好用的咖啡随行杯推荐

瑞幸经常会买咖啡液送咖啡杯

229 天前

回复了 littlemis 创建的主题 › 问与答 › 请问像是 qwen:0.5b 这种小模型，实际能落地用来做什么

可以用来 debug 。然后很多实验室没能力训更大规模的模型，只能在 0.5b 1b 上试试。

229 天前

回复了 AlghaPorthos 创建的主题 › 问与答 › RAG 有什么比较有前景的工程运用嘛？

@AlghaPorthos 幻觉问题可以通过 Knowledge Edit 解决。我并不太同意 RAG 可以解决幻觉，RAG 能做的只是给 LLM 添加一些提示信息，一方面 RAG 本身可能会引入错误信息，另一方面，提示信息并不能避免幻觉的出现，比如在长程推理场景下，RAG 输入的提示信息会被稀释。

另一个 RAG 目前试图解决上下文长度不够的问题。

我认为我们对上下文的需求是有极限的，比如 context window 已经能装下一整个 codebase 了，追求更长的上下文的意义就没那么大。

此外我们还有一些特别的技术比如 context compression 我认为这是比 RAG 解决 context length 更好的方案。

231 天前

回复了 AlghaPorthos 创建的主题 › 问与答 › RAG 有什么比较有前景的工程运用嘛？

我始终觉得这是一个中间形态，只是因为现在 LLM 还不够强

248 天前

回复了 javalaw2010 创建的主题 › 程序员 › 现在是 25.4.27， cursor 相比 windsurf/trae/github copilot 等 AI 工具是否还具有断崖式领先优势？

即使是同一个基座，工具链的好坏，RAG 的好坏也会很影响使用效果的。

255 天前

回复了 nananqujava 创建的主题 › 机器学习 › 学习 AI, 跑下模型, 应该用什么 N 卡?

不如买 m 芯片，显存够大

255 天前

回复了 dongcxcx 创建的主题 › 问与答 › 在用 langgraph 在做一个应用始终觉得不够丝滑

我怎么觉得你需要的其实是 text2sql

258 天前

回复了 marklu 创建的主题 › 机器学习 › 使用大语言模型进行文本分类任务需要微调吗？

如果只是单独做分类的话，用 LLM 不一定比 BERT 更好，都得做了实验才知道。

1 2 3 4 5 6

❮

❯