web前端：nodeJS实现简易爬虫

作者:smile_or 更新于： 2020-03-03 11:10:20

　　传统爬虫从一个或若干初始网页的URL开始，获得初始网页上的URL，在抓取网页的过程中，不断从当前页面上抽取新的URL放入队列，直到满足系统的一定停止条件。通俗的讲，也就是通过源码解析来获得想要的内容。

　　防爬虫:KS-WAF将爬虫行为分为搜索引擎爬虫及扫描程序爬虫，可屏蔽特定的搜索引擎爬虫节省带宽和性能，也可屏蔽扫描程序爬虫，避免网站被恶意抓取页面。

　　需求：使用nodeJS爬取昵图网某个分类下的图片并存入本地

　　运用nodeJS自带系统模块http、fs

　　示例编程语言代码如下所示:

　　网络爬虫是一种自动获取网页内容的程序，是搜索引擎的重要组成部分。网络爬虫为搜索引擎从万维网下载网页。一般分为传统爬虫和聚焦爬虫。