如题所示,导出了大概 12 万条聊天记录,请问各位佬有什么好的办法训练让 ai 模仿吗
|
rateltalkJan 2 via iPhone
1
同问,我想把聊天记录做成知识库,做成什么格式的( excel ,txt 等)最好
|
|
liuziminJan 2 via Android
2
准备做秽土转生?
|
|
qixinwuchenJan 2 via iPhone
3
感兴趣,关注一下
|
|
vovovJan 2 via iPhone
4
我准备把聊天记录向量化,然后把匹配的数据用大模型来回答看看效果
|
|
dji38838cJan 2
5
这思路..
你直接拿这个问题用 AI 不就行了 |
|
lloovveJan 2 via iPhone
6
找到方案踢我一下,我也想转生一个
|
|
okoklllJan 2
7
试试 Weclone
https://docs.llamafactory.online/docs/documents/best-practice/weclone |
|
zisenJan 2
8
@s609926202 json
|
|
euphJan 2 via Android
9
刚问了哈基米,感觉瓶颈还是在 gpu
|
|
might1Jan 2 via Android
10
更好奇是怎么导出来的微信聊天记录
|
|
cxszJan 2
11
同好奇怎么导出数据
|
|
12
需要自己清洗一下对话,去掉没用的信息,然后多次连续的消息拼成一个长句,最终应该变成 QA 形式的,你的对话是 Q ,对方的是 A 。
然后用 LlamaFactory 之类的微调。 之前稍微玩了一下,太久了忘了,反正看文档完事。 |
|
jiandandklJan 3
14
@okoklll 试过 weclone ,效果很不好
|
|
okoklllJan 3
17
@jiandandkl 这个和数据质量关系还是挺大的,当时用的哪个模型呢
|
|
18
12 万条数据 数量不错了。
这个需求大致是个微调个人风格,这个数据量完全够了,数据清洗多做做。数据洗不干净模型会瞎整的,可以 vibe coding 一个 python 脚本,注意只保留文本对话,数据格式处理成 ShareGPT ,因为是多轮对话,不要用 Alpaca ,那个是单轮的,学不会上下文的联系。 然后就是看有没有显卡了,整个 8B 模型,效果就不错了,没有显卡可以整 colab 或者 kaggle 都有免费的算力。 微调库可以用 unsloth ,这种任务跑起来快,方便导出 |
|
cgsgeduoMar 16
19
直接用 rag 做成一个聊天 agent? 如果直接训练那么最好就是 SFT
|