ahjiangwu 最近的时间轴更新 ahjiangwu 最近的时间轴更新 |
ahjiangwuV2EX 第 127616 号会员，加入于 2015-07-17 12:35:28 +08:00今日活跃度排名 14518 |
ahjiangwu 最近回复了
40 天前 回复了 MakHoCheung 创建的主题 › 问与答 › 请教一下 Hugging Face 上的模型怎么下载下来使用 |
你的标题和描述的内容实际上是两个问题
1 、如果单存是想从 huggingface 下载模型可以参考：
https://huggingface.co/docs/hub/models-downloading
当然，魔搭上也可以下载： https://www.modelscope.cn/docs/%E6%A8%A1%E5%9E%8B%E7%9A%84%E4%B8%8B%E8%BD%BD
（#5 可以参考）
2 、如果是想用 java 调用模型，可以用 vllm 部署，vllm server 提供了 api 的调用方式，java 直接调用就可以了
也可以用 xinferrence ，部署起来会更方便一些
1 、如果单存是想从 huggingface 下载模型可以参考：
https://huggingface.co/docs/hub/models-downloading
当然，魔搭上也可以下载： https://www.modelscope.cn/docs/%E6%A8%A1%E5%9E%8B%E7%9A%84%E4%B8%8B%E8%BD%BD
（#5 可以参考）
2 、如果是想用 java 调用模型，可以用 vllm 部署，vllm server 提供了 api 的调用方式，java 直接调用就可以了
也可以用 xinferrence ，部署起来会更方便一些
73 天前 回复了 ahjiangwu 创建的主题 › 问与答 › 想利用大模型搭建企业内部的问答系统，但关于「公司项目代码」的问题，如何处理 |
@yinmin 感谢分享
被甩锅倒是还好，用 8b 只是不太想申请太多硬件资源，关于代码作为数据的微调有没有实践经验可以分享一下
被甩锅倒是还好，用 8b 只是不太想申请太多硬件资源，关于代码作为数据的微调有没有实践经验可以分享一下
74 天前 回复了 ahjiangwu 创建的主题 › 问与答 › 想利用大模型搭建企业内部的问答系统，但关于「公司项目代码」的问题，如何处理 |
@liprais 倒不是组织任务，只是想探索性的尝试
74 天前 回复了 ahjiangwu 创建的主题 › 问与答 › 想利用大模型搭建企业内部的问答系统，但关于「公司项目代码」的问题，如何处理 |
@LuckyLauncher 是的，所以现在没有很好的思路，不知道该如何下手，按照我自己的理解，纯 rag 应该不咋样，代码库的向量化也不知该如何做
251 天前 回复了 ysweics 创建的主题 › 随想 › 写一句话在这里，下一个 2 月 29 号来看（2028.02.29） |
家人健康，财富自由
2020-07-29 16:05:59 +08:00 回复了 reactor 创建的主题 › 职场话题 › #今日话题#在职场中除了领导之外你最讨厌/欣赏哪种类型的人？ |
最欣赏：踏实做事的
最讨厌：能力不行，满嘴跑火车
最讨厌：能力不行，满嘴跑火车
2019-11-15 11:35:57 +08:00 回复了 BigDogWang 创建的主题 › Apple › iPhone 7 iOS 13.2.2 杀后台十分严重 |
我的 7P 开始 13.2 杀，升级 13.2.2 开始杀，重启两次后，不杀
2019-08-09 17:21:01 +08:00 回复了 yeqiu 创建的主题 › .NET › 付费咨询 ef 迁移问题？ iis expres 运行的问题？ |
2019-08-09 17:12:51 +08:00 回复了 yeqiu 创建的主题 › .NET › 付费咨询 ef 迁移问题？ iis expres 运行的问题？ |
让你贴个报错信息，不明白你贴个小白文档链接是几个意思
Select Language