不知道办公台式机能玩的开不？
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
This topic created in 770 days ago, the information mentioned may be changed or developed.
 |
1
hao7Chen May 13, 2024
langchain 就是个编排框架，不需要啥配置，看你用的啥本地模型
用 cpp 就得内存大，cpu 大 用 gpu 就缓存越大越好吧 |
 |
2
sleeepyy May 13, 2024
langchain 就是个 library 啊，本身又不做 llm inference ，不需要啥硬件
|
 |
3
smalltong02 May 14, 2024
langchain 是一套简化大语言模型加载推理的框架，而且还提供 Agent 和各种工具的集成，它本身并不需要什么硬件配置。真正吃硬件的还是你想加载的模型，鉴于一般办公台式机的 GPU 都没有或者很差，那建议你只能玩玩 gguf 的量化模型了。
|
Select Language