大概需求是通过分析一个帖子的内容来对网页内容进行归类,因为之前没做过类似需求,
帖子的数据如下: [标题],[主贴内容],[每层楼的回复]
因为需要提取的分类不多本人也不懂机器学习这些,所以打算从标题,主贴和回帖的内容分别去做关键字的过滤,然后对每个部分设置不同权重,通过计算分值来确定帖子的归类。 还请各位能给点小意见,或者有什么成熟方法可以达到这样的目的
1
CEBBCAT 2019-02-26 16:29:24 +08:00
先说说分啥类吧……
|
3
lixuda 2019-02-26 16:36:39 +08:00
我也有这个需求
|
4
mjawp 2019-02-26 16:37:28 +08:00
可以了解一下 svm,sklearn 库里面有现成的算法可以直接用的,不过你可能要稍微研究一下大概的原理。
也可以了解一下 fasttext,这个更简单,看完 readme 就能上手的了。 问题是你有没有已经标记好的数据集,就是有一大堆已经标记好属于什么分类的帖子。。 |
5
zycpp 2019-02-26 16:42:02 +08:00 via iPhone
训练数据量? 试试决策树?
|
8
Libby520 2019-02-26 17:02:15 +08:00 via iPhone
tag
|
9
huhuhushan 2019-02-26 17:05:42 +08:00
没有数据的话,可以考虑一下 k-means 聚类算法,比较简单.
|
11
mjawp 2019-02-26 17:31:45 +08:00
@snappyone 看你有多少类呀。感觉每个类别至少需要几千个样本吧。还有你可以考虑用一下词向量。
我有个思路,现在有很多分板块的论坛。。。。 |
12
Raymon111111 2019-02-26 17:34:18 +08:00
可以先到现有的一些大论坛爬点数据当样本训练
|
14
a1528026364 2019-02-27 10:42:03 +08:00
参考下 V 站的
|