这篇文章主要为大家展示了“基于node.js如何制作简单爬虫”，内容简而易懂，条理清晰，希望能够帮助大家解决疑惑，下面让小编带领大家一起研究并学习一下“基于node.js如何制作简单爬虫”这篇文章吧。

成都创新互联公司服务项目包括铜仁网站建设、铜仁网站制作、铜仁网页制作以及铜仁网络营销策划等。多年来，我们专注于互联网行业，利用自身积累的技术优势、行业经验、深度合作伙伴关系等，向广大中小型企业、政府机构等提供互联网行业的解决方案，铜仁网站推广取得了明显的社会效益与经济效益。目前，我们服务的客户以成都为中心已经辐射到铜仁省份的部分城市，未来相信会继续扩大服务区域并继续获得客户的支持与信任！

目标：爬取 http://tweixin.yueyishujia.com/webapp/build/html/ 网站的所有门店发型师的基本信息。

思路：访问上述网站，通过chrome浏览器的network对网页内容分析，找到获取各个门店发型师的接口，对参数及返回数据进行分析，遍历所有门店的所有发型师，直到遍历完毕，同事将信息存储到本地。

步骤一：安装node.js

下载并安装node，此步骤比较简单就不详细解释了，有问题的可以直接问一下度娘。

步骤二：建立工程

1）打开dos命令条，cd进入想要创建项目的路径（我将此项目直接放在了E盘，以下皆以此路径为例）；

2）mkdir node （创建一个文件夹用来存放项目，我这里取名为node）；

3）cd 进入名为node的文件夹，并执行npm init初始化工程（期间会让填写一些信息，我是直接回车的）；

步骤三：创建爬取到的数据存放的文件夹

1）创建data文件夹用来存放发型师基本信息；

2）创建image文件夹用来存储发型师头像图片；

此时工程下文件如下：　

步骤四：安装第三方依赖包（fs是内置模块，不需要单独安装）

1）npm install cheerio –save

2）npm install superagent –save

3）npm install async –save

4）npm install request –save

分别简单解释一下上面安装的依赖包：

cheerio：是nodejs的抓取页面模块，为服务器特别定制的，快速、灵活、实施的jQuery核心实现，则能够对请求结果进行解析，解析方式和jQuery的解析方式几乎完全相同；

superagent：能够实现主动发起get/post/delete等请求；

async：async模块是为了解决嵌套金字塔,和异步流程控制而生，由于nodejs是异步编程模型，有一些在同步编程中很容易做到的事情，现在却变得很麻烦。Async的流程控制就是为了简化这些操作；

request：有了这个模块，http请求变的超简单，Request使用简单，同时支持https和重定向；

步骤五：编写爬虫程序代码

打开hz.js，编写代码：

var superagent = require('superagent'); 
var cheerio = require('cheerio');
var async = require('async');
var fs = require('fs');
var request = require('request');
var page=1; //获取发型师处有分页功能，所以用该变量控制分页
var num = 0;//爬取到的信息总条数
var storeid = 1;//门店ID
console.log('爬虫程序开始运行......');

function fetchPage(x) {   //封装函数
  startRequest(x); 
}
function startRequest(x) {

  superagent
    .post('http://tweixin.yueyishujia.com/v2/store/designer.json')
    .send({ 
      // 请求的表单信息Form data
      page : x, 
      storeid : storeid
    })
      // Http请求的Header信息
    .set('Accept', 'application/json, text/javascript, */*; q=0.01')
    .set('Content-Type','application/x-www-form-urlencoded; charset=UTF-8')
    .end(function(err, res){     
      // 请求返回后的处理
      // 将response中返回的结果转换成JSON对象
      if(err){
        console.log(err);
      }else{
        var designJson = JSON.parse(res.text);
        var deslist = designJson.data.designerlist;
        if(deslist.length > 0){
          num += deslist.length;
          // 并发遍历deslist对象
          async.mapLimit(deslist, 5, 
            function (hair, callback) {
            // 对每个对象的处理逻辑
               console.log('...正在抓取数据ID：'+hair.id+'----发型师:'+hair.name);
               saveImg(hair,callback);
            }, 
            function (err, result) {
              console.log('...累计抓取的信息数→→' + num);
            }
          );
          page++;
          fetchPage(page);
        }else{
          if(page == 1){
            console.log('...爬虫程序运行结束~~~~~~~');
            console.log('...本次共爬取数据'+num+'条...');
            return;
          }
          storeid += 1;
          page = 1;
          fetchPage(page);
        }
      }
    });
} 
fetchPage(page);
function saveImg(hair,callback){
  // 存储图片
  var img_filename = hair.store.name+'-'+hair.name + '.png';

  var img_src = 'http://photo.yueyishujia.com:8112' + hair.avatar; //获取图片的url

  //采用request模块，向服务器发起一次请求，获取图片资源
  request.head(img_src,function(err,res,body){
    if(err){
      console.log(err);
    }else{
        request(img_src).pipe(fs.createWriteStream('./image/' + img_filename));   //通过流的方式，把图片写到本地/image目录下，并用发型师的姓名和所属门店作为图片的名称。
        console.log('...存储id='+hair.id+'相关图片成功！');
    }
  });
  // 存储照片相关信息
  var html = '姓名：'+hair.name+'
职业：'+hair.jobtype+'
职业等级：'+hair.jobtitle+'
简介：'+hair.simpleinfo+'
个性签名：'+hair.info+'
剪发价格：'+hair.cutmoney+'元
店名：'+hair.store.name+'
地址：'+hair.store.location+'
联系方式：'+hair.telephone+'
头像：';
  fs.appendFile('./data/' +hair.store.name+'-'+ hair.name + '.html', html, 'utf-8', function (err) {
    if (err) {
      console.log(err);
    }
  });
  callback(null, hair);
}

步骤六：运行爬虫程序

输入node hz.js命令运行爬虫程序，效果图如下：

运行成功后，发型师基本信息以html文件的形式存储在data文件夹中，发型师头像图片存储在image文件夹下：

以上是“基于node.js如何制作简单爬虫”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注创新互联网站建设公司行业资讯频道！

另外有需要云服务器可以了解下创新互联建站www.cdcxhl.com，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。

文章题目：基于node.js如何制作简单爬虫-创新互联
当前URL：http://ybzwz.com/article/ceijig.html