ahjiangwu's recent timeline updates
ahjiangwu

ahjiangwu

V2EX member #127616, joined on 2015-07-17 12:35:28 +08:00
Today's activity rank 3534
Per ahjiangwu's settings, the topics list is hidden
Deals info, including closed deals, is not hidden
ahjiangwu's recent replies
Apr 12
Replied to a topic by Pantheonn 全球工单系统 gying 疑似关站了
😭😭😭
20 世纪 70 年代,工厂工人觉得未来机器将取代工人,那时候所有工人都将失业,因此大力排斥机器,然而事实告诉我们,机器化只会带来更多的就业,反而是那些不思进取,无法拥抱变化的工人会被淘汰

所以:程序员不会被替代,反而是不会应用的程序员会被替代
你的标题和描述的内容实际上是两个问题

1 、如果单存是想从 huggingface 下载模型可以参考:
https://huggingface.co/docs/hub/models-downloading
当然,魔搭上也可以下载: https://www.modelscope.cn/docs/%E6%A8%A1%E5%9E%8B%E7%9A%84%E4%B8%8B%E8%BD%BD
(#5 可以参考)

2 、如果是想用 java 调用模型,可以用 vllm 部署,vllm server 提供了 api 的调用方式,java 直接调用就可以了
也可以用 xinferrence ,部署起来会更方便一些
@yinmin 感谢分享
被甩锅倒是还好,用 8b 只是不太想申请太多硬件资源,关于代码作为数据的微调有没有实践经验可以分享一下
@liprais 倒不是组织任务,只是想探索性的尝试
@LuckyLauncher 是的,所以现在没有很好的思路,不知道该如何下手,按照我自己的理解,纯 rag 应该不咋样,代码库的向量化也不知该如何做
家人健康,财富自由
最欣赏:踏实做事的
最讨厌:能力不行,满嘴跑火车
Nov 15, 2019
Replied to a topic by BigDogWang Apple iPhone 7 iOS 13.2.2 杀后台十分严重
我的 7P 开始 13.2 杀,升级 13.2.2 开始杀,重启两次后,不杀
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2537 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 13ms · UTC 08:42 · PVG 16:42 · LAX 01:42 · JFK 04:42
♥ Do have faith in what you're doing.