coefu

V2EX member #616381, joined on 2023-02-28 17:15:35 +08:00

Today's activity rank 7715

coefu 提问技术话题好玩工作信息交易信息城市相关

Per coefu's settings, the topics list is hidden

Deals info, including closed deals, is not hidden

coefu's recent replies

14h 15m ago

Replied to a topic by calloc › 程序员 › 当看到文章说 AI 又解决了一个难题

这取决于你认知里的“AI”是什么？

201x 年代围棋里起势的是深度强化学习 DRL ，和当前的 LLM 不是一个路线。

202x 年代涌现智能的是围绕 transformer/mamba 体系的 NLP 路线。

至于当前解决数学难题的是围绕 LLM 的 agent 工程路线，通过分布式 agent 集群扩大智能深度。

1 day ago

Replied to a topic by victorysl › 职场话题 › 当时只道是寻常啊兄弟们

@diudiuu 你小子上岗了啊，市场竞争力可以啊。

1 day ago

Replied to a topic by zzutmebwd › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4

@catazshadow 我觉得这个是 dsh 的通用功能，实际上就是把本地 session 让模型自己搞一次压缩，压缩结果都是显式在 web 端可以看到的，然后占用一些当前会话的 agent prompt 。我也是昨天才更新了一下 dsh ，发现有这个压缩的过程。

我这个 context 都搞了几轮 262144 的 context ，太长了，傻不傻，我都没能力区分。反正过程最终有个最终目的 test 。

1 day ago

Replied to a topic by cloudzhou › 程序员 › 普通程序员，大模型之争如同 Jdk 版本

还是有点区别的，各家在 benchmark 上跑分的侧重点都不同，有些就只适合于 tool use ，有些适合 coding ，有些适合做 scicode 。

模型架构，以及后训练阶段，其实都可以做出很多不同。

1 day ago

Replied to a topic by zzutmebwd › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4

@catazshadow deepseek harness ，v 0.1.5 能主动压缩 context ，我在一个会话里用 qwen3.8 flash next 干到 83 轮 652 步还能 9.8 tok/s ，之前的 qwen3.8 27B 早就要掉到 0.x tok/s 了。

ISTA-DASLab 的压缩量化技术，确实屌。希望 qwen4 能更上一层楼，之前我还喷 qwen ，😂，真是要自我掌嘴了。

1 day ago

Replied to a topic by zzutmebwd › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4

@catazshadow 我也有个 6pcie 槽的大矿机，但是，电源是 3kw 的，电费搞不起。😂

1 day ago

Replied to a topic by catamaran › 程序员 › 酷壳无法访问了

十多年前看的二维码原理。

老江湖都走了，留着我们这帮子中生代夹生饭在剧烈的变局中硬撑。

1 day ago

Replied to a topic by zzutmebwd › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4

@catazshadow 你试的是 qwen3.8 27B 还是 qwen3.8 flash next?

tg 能有个 10 tok/s ，不错了。

2 days ago

Replied to a topic by tangyehui › 程序员 › 做了一套开源 RSI Infra，让 Agent 根据任务自主优化

你懂个 der 的 RSI 。

2 days ago

Replied to a topic by 1258 › 程序员 › qwen3.8 27B 被低估了

@yudoo 虽然都是一些空话套话，但是知道怎么提升自己的知识储备，也是修炼的一环。

我的经验就是，保持持续学习的心态，也就是求知欲。对领域有兴趣了，自然而然地就能自发找到途径。

» More replies by coefu