位置: 编程技术 - 正文

利用node.js爬取指定排名网站的JS引用库详解(node爬取数据)

编辑:rootadmin

推荐整理分享利用node.js爬取指定排名网站的JS引用库详解(node爬取数据),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:node.js爬虫教程,nodejs爬虫框架crawler,node网络爬虫,nodejs爬虫框架crawler,node python 爬虫,node网络爬虫,nodejs爬取数据,nodejs爬取数据,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

本文给大家介绍的爬虫将从网站爬取排名前几的网站,具体前几名可以具体设置,并分别爬取他们的主页,检查是否引用特定库。下面话不多说了,来一起看看详细的介绍:

所用到的node主要模块

express 不用多说 request http模块 cheerio 运行在服务器端的jQuery node-inspector node调试模块 node-dev 修改文件后自动重启app

关于调试Node

在任意一个文件夹,执行node-inspector,通过打开特定页面,在页面上进行调试,然后运行app,使用node-dev app.js来自动重启应用。

所碰到的问题

1. request请求多个页面

由于请求是异步执行的,和分别返回3个页面的数据,这里只爬取了个网站,一个页面有个,所以有3页,通过循环里套request请求,来实现。

通过添加请求头可以实现基本的反爬虫

处理数据的方法都写在analyData()里面,造成后面的数据重复存储了,想了很久,才想到一个解决方法,后面会写到是怎么解决的。

2. 多层回调

仔细观察代码,你会发现,处理数据的方法使用了如下的多层回调,也可以不使用回调,写在一个函数内部;因为,每层都要使用上一层的数据,造成了这样的写法。

利用node.js爬取指定排名网站的JS引用库详解(node爬取数据)

3. 正则获取JS库

由于获取页面库,首先需要获取到script的src属性,然后通过正则来实现字符串匹配。

获取到的script可能是上面这样的,由于库名的命名真是各种各样,后来想了一下,因为文件名是用.js结尾的,所以就以点号为结尾,然后把点号之前的字符截取下来,这样获得了库名,代码如下。

4.cheerio模块获取JS引用链接

这部分也花了一点时间,才搞定,cheerio获取DOM的方法和jQuery是一样的,需要对返回的DOM对象进行查看,就可以看到对象里隐藏好深的href属性,方法大同小异,你也可以使用其他选择器,选择到script标签

5.存储数据到数据库

存储数据的逻辑是先获取所有的script信息,然后push到一个缓存数组,由于push后面,紧跟着存储到数据库的方法,这两个方法都写在循环里面的,例如爬取5个网站,每个网站存储一次,后面也会跟着存储,造成数据重复存储。解决方法是存储数据的一般逻辑是先查,再存,这个查比较重要,查询的方法也有多种,这里主要是根据库名来查找唯一的数据对象,使用findOne方法。注意,由于node.js是异步执行的,这里的闭包,每次只传一个i值进去,执行存储的操作。

6.分页插件

本爬虫前端使用了bootstrap.paginator插件,主要是前台分页,返回数据,根据点击的页数,来显示对应的数据,后期考虑使用AJAX请求的方式来实现翻页的效果,这里的注意项,主要是最后一页的显示,最好前面做个判断,因为返回的数据,不一定刚好是页数的整数倍

完整代码

1. 前端

2.后端路由

源码下载

github下载地址 (本地下载)

后记

通过这个小爬虫,学习到很多知识,例如爬虫的反爬虫有哪些策越,意识到node.js的异步执行特性,前后端是怎么进行交互的。同时,也意识到有一些方面的不足,后面还需要继续改进,欢迎大家的相互交流。

好了,

标签: node爬取数据

本文链接地址:https://www.jiuchutong.com/biancheng/380900.html 转载请保留说明!

上一篇:NodeJS使用七牛云存储上传文件的方法(七牛云和ucloud)

下一篇:深入解析nodejs HTTP服务(深入解析windows第7版pdf)

  • 浙江税务网上办税大厅官网
  • 预付账款可以开发票吗
  • 增值税留抵退税是什么意思
  • 应发工资包含请年假吗
  • 电子商务公司开业活动流程
  • 发生采购业务无合同需要缴印花税吗
  • 购买旧资产如何入账
  • 房地产公司固定资产管理制度
  • 行政单位收入支出结转
  • 出口退税进项税额转出是什么意思
  • 汽车融资租赁行业发展趋势
  • 税控设备可以跨省销售吗
  • 企业所得税税负怎么算
  • 去税务局交的社保能退么
  • 小规模没有进项可以开发票吗
  • 金税三期啥意思
  • 小规模纳税人进项税额怎么处理
  • 预缴税款附加税怎么弄
  • 企业发放工资时,可能涉及的会计科目有
  • 销售产品的成本属于什么科目
  • 非现金资产包括
  • 备案类减免税有几种类型
  • 事业单位 会计
  • 销售商品抹零需要怎么入账
  • 财政专项补助资金企业所得税申报
  • 公对公如何转账不用开票
  • 生产和提供的区别
  • Dardanup郡的小矮人村,澳大利亚 (© Amanda Hughes/Alamy)
  • php yeid
  • 政府给的土地补偿标准
  • 利用html css javascript做一个网页
  • 人力为主的公司名称
  • 什么叫坏账准备
  • 出租改自用房产税
  • 滞纳金的计算公式为
  • 小微企业自己记账怎么算
  • 关联公司开发票
  • 零申报有哪些
  • 负数红字发票如何申报
  • php安装不了
  • access创建一个表
  • python报错怎么办
  • 应付账款账户的结构与什么账户相似
  • 物业费按年收
  • 机关事业单位体育协会举办体育赛事活动应当
  • 个人所得税减免项目有哪些
  • 哪些企业可以不计提盈余公积
  • mysqldump定时备份
  • 存货的采购成本不包括
  • 税务师有用么,相当于中级还是高级
  • 销售商品开票税目
  • 营改增行业销售额的确定
  • 申报个人所得税的软件叫什么
  • 营业外收入是损益类账户吗
  • 税务自查补缴税款怎么办
  • 在会计中,结转材料实际采购成本时什么意思
  • 车辆违章处理有什么规定
  • 公司变更名字后,公账怎么办
  • 股东将股权转让后是否还承担责任
  • 为什么工程施工图纸不能泄露
  • 重组合并
  • 本月合计结账
  • 用SQL脚本读取Excel中的sheet数量及名称的方法代码
  • sql server常规错误
  • docker 自启动
  • workflow software
  • windows xp的控制面板
  • Win10控制面板打不开
  • win8如何安装
  • unity小技巧
  • excle纵坐标
  • curl发送formdata
  • linux 加法命令
  • python利用while循环求1+2+3......+n的和
  • 基于android的app的设计与开发
  • unity接入google内购
  • 陕西国家电子税务局2.0
  • 北京税务局网上办税服务厅
  • 什么是党建工作一体化
  • 苏州汇川和深圳汇川那个好
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设