位置: IT常识 - 正文

Node.js基础入门第六天(node.js入门教程)

编辑:rootadmin
经过前面五天的学习,对Node.js开发已经逐渐入门,今天结合之前学到的东西,开发一个小示例【爬取某图片网站的图片】来巩固基础知识,仅供学习分享使用,如有不足之处,还请指正。 ...

推荐整理分享Node.js基础入门第六天(node.js入门教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:node.js基础知识,node.js基础知识,node-js,node.js教程详细,node.js基础知识,node.js快速入门,node.js入门教程,node.js入门教程,内容如对您有帮助,希望把文章链接给更多的朋友!

经过前面五天的学习,对Node.js开发已经逐渐入门,今天结合之前学到的东西,开发一个小示例【爬取某图片网站的图片】,仅供学习分享使用,如有不足之处,还请指正。

涉及知识点

开发一个小爬虫,涉及的知识点如下所示:

https模块,主要是用户获取网络资源,如:网页源码,图片资源等。cheerio模块,主要用于解析html源码,并可访问,查找html节点内容。fs模块,主要用于文件的读写操作,如保存图片,日志等。闭包,主要是对于异步操作,对象的隔离保护。cheerio简介什么是cheerio ?

cheerio是为服务器特别定制的,快速、灵活、实施的jQuery核心实现。主要用于在服务端解析html。特点如下所示:

易用,语法类似jQuery语法,从jQuery库中去除了所有 DOM不一致性和浏览器尴尬的部分。解析快,比JSDOM快八倍。灵活,Cheerio 封装了兼容的htmlparser。Cheerio 几乎能够解析任何的 HTML 和 XML document。安装cheerio

首先在命令行,切换到程序目录,然后输入安装命令进行安装,如下所示:

1 cnpm install cheerio

安装过程,如下所示:

准备工作

在编写爬虫之前,首先需要分析目标内容,本次需要爬取的是某网站,星空类型的图片内容,经过分析,发现所有的图片都是在ul下每一个li中的a标签内的img中,本次只需要解析出img的src属性,即可获取图片的下载路径。如下所示:

Node.js基础入门第六天(node.js入门教程)

核心代码

经过以上分析,通过Node.js编写代码,分为两步,获取所有图片的url路径,即解析所有目标img元素的src属性。然后再下载具体图片进行保存即可。

引用所需要的功能模块,如下所示:

1 var https = require('https');2 var cheerio = require('cheerio');3 var fs = require('fs');

获取并解析html页面内容,如下所示:

1 //爬取的网址 2 var addrs=['https://www.*****.com/topic/show_27202_1.html','https://www.******.com/topic/show_27202_2.html','https://www.*****.com/topic/show_27202_3.html']; 3 var logger = fs.createWriteStream('./download/log.txt',{flags:'a+',autoClose:'true'}); 4 5 for(i in addrs){ 6 (function(num){ 7 var addr = addrs[num]; 8 //创建目录 9 var p1 = new Promise(function(resolve,reject){10 fs.access('./download',function(err){11 if(err){12 fs.mkdir('./download',function(e){13 if(e){14 console.log('创建失败');15 }16 });17 }else{18 resolve("success");19 }20 }); 21 });22 23 p1.then(function(datas){24 var html='';25 var p2 = new Promise(function(resolve,reject){26 https.get(addr,function(res){27 res.on('data',function(data){28 html+=data.toString();29 })30 res.on('end',function(){31 resolve("success");32 });33 34 });35 36 });37 p2.then(function(data){38 //下载完成后,进行解析39 const $ =cheerio.load(html);40 var lis = $('#img-list-outer').find('li');41 for(var j=0;j<lis.length-1;j++){42 var li = lis[j];43 var src =$(li).find('a').find('img').attr('src');44 //console.log(src);45 //console.log('-------------------------');46 var imgurl='https:'+src;47 download(imgurl);48 var msg='['+j+']下载成功:'+imgurl;49 logger.write(msg+'\n');50 console.log(msg);51 }52 });53 });54 })(i);55 }

注意:因为所有爬取的目标共分为3页,所以用到了循环,并且在循环中用到了闭包。

下载并保存单张图片代码,如下所示:

1 //下载图片 2 function download(imgurl){ 3 var p1 = new Promise(function(resolve,reject){ 4 https.get(imgurl,function(res){ 5 var imgName=imgurl.substr(imgurl.lastIndexOf('/')+1); 6 var stream = fs.createWriteStream('./download/'+imgName); 7 res.pipe(stream); 8 setTimeout(function(){ 9 resolve('success');10 },300);11 12 });13 });14 p1.then(function(data){15 return;16 });17 }示例截图

开发完成后,运行代码,如下所示:

爬取的图片,保存在文件夹中,如下所示:

注意:添加日志,是为了方便记录程序执行过程,对比图片和日志,便于发现问题。

备注

学而时习之,不亦说乎?有朋自远方来,不亦乐乎?人不知而不愠,不亦君子乎?

本文链接地址:https://www.jiuchutong.com/zhishi/311587.html 转载请保留说明!

上一篇:给织梦添加复制文档的功能(织梦网站怎么添加关键词)

下一篇:Dedecms 自定义表单提交后自动发送表单数据到指定邮箱的思路(dedecms使用教程)

  • 华为手环7如何自定义表盘(华为手环7如何充电)

    华为手环7如何自定义表盘(华为手环7如何充电)

  • 小米手机怎么设置呼叫转移(小米手机怎么设置流量上限?)

    小米手机怎么设置呼叫转移(小米手机怎么设置流量上限?)

  • vivo NEX 3s搭载的是哪个系统(vivo nex3s值得入手吗)

    vivo NEX 3s搭载的是哪个系统(vivo nex3s值得入手吗)

  • daysmatter苹果自带吗(days matter怎么设置在一起多久了ios)

    daysmatter苹果自带吗(days matter怎么设置在一起多久了ios)

  • 无法认证服务器身份是怎么回事(无法认证服务器苹果手机身份)

    无法认证服务器身份是怎么回事(无法认证服务器苹果手机身份)

  • 网站的基本信息单位是什么(网站的基本信息单位是网页)

    网站的基本信息单位是什么(网站的基本信息单位是网页)

  • cbr是什么文件格式(cbr格式)

    cbr是什么文件格式(cbr格式)

  • 手机显示私人号码是什么意思(手机显示私人号码)

    手机显示私人号码是什么意思(手机显示私人号码)

  • 回收站的照片删除了怎么恢复(回收站的照片删除了还能恢复吗电脑)

    回收站的照片删除了怎么恢复(回收站的照片删除了还能恢复吗电脑)

  • 调出任务管理器快捷键(怎么调出任务管理器)

    调出任务管理器快捷键(怎么调出任务管理器)

  • 指纹锁打不开了要怎样才能打开(指纹锁打不开了怎么办解锁)

    指纹锁打不开了要怎样才能打开(指纹锁打不开了怎么办解锁)

  • 苹果手机爱奇艺看不了视频了怎么办(苹果手机爱奇艺怎么不能横屏播放)

    苹果手机爱奇艺看不了视频了怎么办(苹果手机爱奇艺怎么不能横屏播放)

  • 苹果拉黑会有拦截记录吗(苹果手机拉黑后能看见骚扰拦截吗)

    苹果拉黑会有拦截记录吗(苹果手机拉黑后能看见骚扰拦截吗)

  • 下载的描述文件怎么删除(苹果手机怎么删除下载的描述文件)

    下载的描述文件怎么删除(苹果手机怎么删除下载的描述文件)

  • ipad声音小怎么办(ipad声音怎么调大)

    ipad声音小怎么办(ipad声音怎么调大)

  • 苹果xs处理器型号(苹果xs处理器是多少g的)

    苹果xs处理器型号(苹果xs处理器是多少g的)

  • 苹果手机更新一半卡住(苹果手机更新一般需要多久)

    苹果手机更新一半卡住(苹果手机更新一般需要多久)

  • 荣耀手环5能不能接电话(荣耀手环5能不能拍照)

    荣耀手环5能不能接电话(荣耀手环5能不能拍照)

  • 华为荣耀9x手机时间设置在哪里(华为荣耀9x手机参数)

    华为荣耀9x手机时间设置在哪里(华为荣耀9x手机参数)

  • oppo reno是不是60倍变焦(oppo reno是不是双扬声器)

    oppo reno是不是60倍变焦(oppo reno是不是双扬声器)

  • 无线网用不了怎么回事(无线网用不了怎么解决)

    无线网用不了怎么回事(无线网用不了怎么解决)

  • 无法登录无线路由器设置页面(无法登陆wifi怎么登陆路由器)

    无法登录无线路由器设置页面(无法登陆wifi怎么登陆路由器)

  • phpcms图片不显示怎么办(php中为什么图片显示不出来)

    phpcms图片不显示怎么办(php中为什么图片显示不出来)

  • 负数怎么在excel里输入
  • 计入投资收益的手续费
  • 增值税减免税款怎么算
  • 残保基金的计算公式
  • 合同款未付怎么写欠条
  • 研发投入大
  • 商场返现活动怎么入账
  • 汇算清缴之后报销去年的票如何分录?
  • 收到上个月的发票怎么做分录
  • 携税宝报税操作流程
  • 建筑行业包含哪些项目
  • 合同签订的案例
  • 季度申报表营业成本怎么填
  • 房地产公司需要和哪些部门打交道
  • 房产评估增值部门有哪些
  • .车船税不在汽车保险里如何入账
  • 修叉车这个工作怎么样
  • 企业所得税调增调减项目有哪些
  • 跨年度所得税多怎么办
  • windows defender隔离区
  • win10锁屏界面不能输入密码
  • mac u盘
  • 总成本费用包含
  • PHP:mb_list_encodings()的用法_mbstring函数
  • 交个税手续费账务处理
  • wordpress自定义文章类型
  • PHP:imagedestroy()的用法_GD库图像处理函数
  • 企业所得税的税收筹划
  • 个人销售非住宅土地增值税
  • AI:ModelScope(一站式开源的模型即服务共享平台)的简介、安装、使用方法之详细攻略
  • 纳税人辅导期申报流程
  • mac m1 rosetta编译
  • 北极野生动物
  • php图像
  • 计算机网络的定义
  • php 取字符串 前几位
  • thinkphp ide
  • 基于javaweb是什么意思
  • 你知道怎么训练
  • vue中的组件
  • php session_id
  • 财政拨入的科技费是什么
  • 经费支出的定义
  • 应收账款占比高
  • 交易性金融资产公允价值变动计入
  • python__get__
  • 各部门和单位按照国家有关规定收取或取得
  • 餐饮服务税率是服务类税率还是货物类
  • 机票电子行程单查询
  • 社保逾期滞纳金和利息
  • 到期不续约补偿金怎么算
  • 商品买一送一应该怎么写
  • 发票没有银行账号可以吗
  • 收到汇算清缴后怎么做账
  • 消防安装公司属于什么行业
  • 法院主要业务活动
  • 怎么开劳务派遣工作证明
  • 出纳日记账的日期以什么为准
  • mysql很卡
  • mysql中日期格式
  • windows xp和windows 2000
  • Linux系统下findmnt命令使用全解
  • mac ios应用
  • win7自带拍照功能
  • win8.1无法安装
  • rasman.exe - rasman是什么进程 有什么作用
  • win7调出ie浏览器
  • linux命令eof
  • win7系统没有光驱盘符
  • jquery右击事件
  • wind安装
  • 根据两点的经纬度计算航向角
  • 批处理之家官网
  • array 和list
  • js状态管理
  • 增值税发票综合服务平台升级
  • 广西教师初级职称申报时间
  • 张雪峰谈建筑专业
  • 代扣代缴企业所得税手续费
  • 如何查北京
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设