V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member Sign In
推荐关注
› Meteor
› JSLint - a JavaScript code quality tool
› jsFiddle
› D3.js
› WebStorm
推荐书目
› JavaScript 权威指南第 5 版
› Closure: The Definitive Guide
› Closure: The Definitive Guide
This topic created in 1665 days ago, the information mentioned may be changed or developed.
目前在模仿一个别的网站练手，模拟数据比较困难，就想着爬点下来。（纯练手，非商业用途）
之前用的 Scrapy，挺好用的，但是自己本身已经对 js 、ts 比较熟悉了，而且不太喜欢 python 。
所以就想问问有么有什么 JavaScript 的替代方案之类的？比如相关的框架之类的？支持 ts 更好
10 replies • 2021-10-19 16:00:01 +08:00
 |
1
veike Oct 19, 2021 via Android
puppeteer ？
|
 |
2
gavingeng Oct 19, 2021
微软的 playwright，团队就是原先的 puppeteer，于 2019 跳到 ms
|
 |
3
unclemcz Oct 19, 2021
crawler
|
 |
4
rust Oct 19, 2021
直接走 CDP 协议
|
 |
5
mxT52CRuqR6o5 Oct 19, 2021
(axios/got/其他 http 请求库)+cheerio
puppeteer/playwright |
 |
6
iiqiu Oct 19, 2021
puppeteer
|
 |
7
ntdll Oct 19, 2021  4
不知当讲不当讲，cloudflare workers 去爬其他用了 cf 的网站，直接穿透 waf 。看起来是 cf 对自己的 IP 做了白名单处理。免费日 10 万次调用也是非常的良心。
|
 |
8
zhuzongxing Oct 19, 2021
我是用的比较土的方法，axios 加 cheerio
|
 |
9
xiangyuecn Oct 19, 2021
直接用 XMLHttpRequest 快的一逼，手撸。。，，，主要是因为别的工具也不会，写其他代码没有 js 简单😂
|
 |
10
dcsuibian OP 1
感谢各位的回复
自己也去调研了下，目前我的观点是靠 axios 、cheerio，以后可能会用 playwright axios 用过很多次了，cheerio 处理 dom 。 puppeteer 、playwright 拓宽了我的知识面，非常有兴趣但暂时用不到（目前只抓静态页面）。以后要用的话倾向于 playwright，主要看中跨平台和微软出品（ TypeScript ） node-crawler 听人说似乎停止维护了。 |
Select Language