注:ELK(ElasticSearch, Logstash, Kibana)
背景: 前两天一家公司,搜索了一下感觉还不错;它们发给我一套线上试题先做再邀约面试。 面试题的岗位是爬虫工程师。
先说我自己,工作经验是 LINUX-C 的,学了 Python 想转 Python 开发 (主要考虑后端或数据相关岗;爬虫岗优先级靠后一点。 Python 能力是得到求职市场承认的,投简历没有百分百邀约面试,不过去面试的百分百谈薪资,面试最后都是我说回去考虑一两天答复; 但是业务能力我完全明白自己不足,具体的 PV,UV 是什么我还得学一下)
上面是整体的背景;然后下面是线上面试题的细节:
第二道的题目内容是分析标题的 access log ;不过这个 access log 不是 Nginx 生成的,但是很像就是了; 相当于是 server 提供 RESTful API,是 access API 的 log,包含了更多的信息,举个例子吧:
{"remote_addr": ..., "host": ..., "time": ...,
"request": ..., ... "url": ..., "request_url": ...}
json 格式的“大”文件 每一条 log 根据具体的 API 格式没有百分百相同,但都是 JSON
题目分析 log 文件,调用函数能够得到 pv,uv,
和 topK 的一个 url 查询(如 /api/any_thing?key=中文
,得到这个特定 API 的 key 后面内容的 topK )
最后回到标题,平时工作像上述分析 log 得到 pv,uv,topk 这样的,算是什么岗位? ELK ??
1
supermoonie 2020-09-13 12:34:32 +08:00 via iPhone
爬虫爬取数据是一回事,爬下来的数据也是一回事,也算是爬虫的工作吧,只不过爬虫还是更专注爬取与反爬
|
2
putaozhenhaochi 2020-09-13 13:01:07 +08:00
数据分析 /增长黑客?
|
3
srlp 2020-09-13 17:05:31 +08:00 via iPhone 1
data engineer
|