V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
This topic created in 3160 days ago, the information mentioned may be changed or developed.
Hi, all~
在闲暇时间里写了个爬虫，爬取拉勾网的数据，目前爬到了将近 5.4W 条公司的数据，近 10W 条职位的数据。
简单地做了个 web 页面展示关于各编程语言的职位详情，可以看到的信息有:
工作年限要求分布、
薪水分布、
各城市职位占比、
学历要求情况、
职位数量的变化情况、
招聘这些职位的公司的融资情况分布,
可访问 http://www.jobinfo.cc:8000/ 查看这些信息。
源码的地址: https://github.com/GuozhuHe/webspider
爬取到的数据已经放到百度云上了( https://pan.baidu.com/s/1gfIi5gv), 密码在项目的 readme 文件可以看到，诸位可自取~~
最后的最后，如果感觉还不错，不妨给个 star 哦 ~ yeap
_(:з」∠)_
 |
1
hololens Sep 1, 2017
楼主是知乎员工么，楼主能说一下学习爬虫的途径么。
|
 |
2
CallMeHoney OP 买了本爬虫的书，了解些基础知识后就直接开始写项目了，遇到不会的问题就 google 解决。
|
 |
3
a87150 Sep 1, 2017
echar.js 是啥？ echarts ？
|
 |
4
silencefent Sep 1, 2017
数据还是看不出价值...比如搜 js 和搜客服，出来的数据都差不多
|
 |
5
LeoNG Sep 1, 2017
不知道是我电脑辣鸡还是什么，网页打开会卡一下。
Chrome. iMac 13. |
 |
6
wen4434 Sep 1, 2017
有语言就更好了
|
 |
7
geekyoung Sep 1, 2017
在搜索框给个提示也许会更好，另外如搜索 自然语言处理 或 nlp 数据不一样，作者搜索这个地方是怎么处理的？
|
|
8
CallMeHoney OP @a87150 不注意写错了 (°Д°) ~~已经改过来了
|
|
9
CallMeHoney OP @silencefent 通常职位的数据差别不会很大，就算差个百分之十几从图像看起来也不会相差很大。我也发现了这个问题，在考虑更好更直观的方式呈现。
|
|
10
CallMeHoney OP @geekyoung 其实搜索这里取巧了，在抓取的时候会存储职位的关键词信息，搜索时查询的是关键词。
|
|
11
CallMeHoney OP @LeoNG 真的吗，可能加载 JS 时卡了。。 _:(´ཀ`」 ∠):_
|
 |
12
xiaosheng Sep 1, 2017
@CallMeHoney 求书名...
|
|
13
geekyoung Sep 1, 2017
@CallMeHoney 恩 了解了
|
|
15
CallMeHoney OP @xiaosheng 书的确不重要 很多问题时在实际中才能遇到的
书是《 Python 网络数据采集》 比较薄 容易看完(当初也是因为这个原因才选的这本书) _(:з」∠)_ |
 |
16
Clarencep Sep 1, 2017
话说 Python 的职位好少，远不及 Java PHP
|
 |
17
huangfs Sep 1, 2017
http://www.jobinfo.cc:8000/?keyword=nlp 0727 貌似没数据了。
|
 |
18
qianguozheng Sep 1, 2017
这年头那么多人些 python 爬虫练手阿
|
 |
19
justff Sep 1, 2017 via Android
你们这个学校。。你哪年毕业
|
 |
20
xiaotianhu Sep 1, 2017 via iPhone
看起来 中老年人还是应该搞 java
|
 |
21
sunwei0325 Sep 2, 2017
学习楼主代码中, 不知道还有 buildout 这个东西
|
 |
22
hjdtl Sep 2, 2017
daoyan??
|
|
23
CallMeHoney OP |
 |
24
mafeifan Sep 2, 2017
最好放上统计日期范围
|
|
25
hjdtl Sep 2, 2017
@CallMeHoney 我以为你是我的朋友，头像一样。。。
|
 |
26
winglight2016 Sep 3, 2017
北京地区需求高出这么多？感觉可能是拉钩的运营重点不同导致的吧？
|
|
27
CallMeHoney OP @winglight2016 北京的职位的确高出其他城市的很多 我看了一下其他招聘网站也基本是这个样子
|
 |
28
wlh233 Sep 3, 2017
楼主是为了这个项目专门买了这个 jobinfo 域名吗_(:з」∠)_
|
|
29
CallMeHoney OP @wlh233 几十块而已。。
|
|
30
CallMeHoney OP @mafeifan 什么统计日期？是统计数据截止到几号吗
|
|
31
CallMeHoney OP @sunwei0325 感觉 buildout 还是挺好用的
|
|
32
CallMeHoney OP @justff 今年刚刚毕业~~
|
|
33
mafeifan Sep 4, 2017
@CallMeHoney 这些数据是哪个时间段内的
|
Select Language