位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 增值税以物易物税收政策
  • 小规模纳税人应交增值税明细科目
  • 单位承担的社保费用计入什么科目
  • 应收账款核销的会计处理
  • 企业可以采用多品牌战略吗
  • 工程结余物资清理方案
  • 支票承兑是什么意思要带什么材料
  • 销售开红字的账务处理
  • 查增应纳税所得额怎么算
  • 2020年个体工商户税收政策超出额度怎么征收
  • 银行承兑汇票到期日期怎么算
  • 开办费一次性摊销企业所得税
  • 一般纳税人要交的税种有几种
  • 关税完税价格包含关税吗
  • 发票进项和销项对不上后果
  • 预缴税款的税率
  • 财税[2016]140号文逐条解读
  • 个体户开票要交印花税?
  • 建筑工程公司开票如何做收入
  • 公司账户转私账
  • 出口的会计分录
  • 办理股权转让麻烦吗
  • 业务招待费例子
  • mac怎么设置不自动开机
  • 小企业会计准则没有以前年度损益调整科目
  • php判断为空的方法有哪些
  • smtplib教程
  • 私账转到公账怎么办
  • 为什么要把收入当成舞弊假定
  • 论文可查
  • vuex iframe
  • 自动化工具 业务有哪些
  • react-router6.4+的项目种路由实现方式(列举两种)
  • php密码加密技术phpass
  • python怎么将整数转化为字符串
  • discuz怎么添加diy模块
  • 初级会计直线法摊销
  • 新企业所得税季初资产总额怎么填
  • 小规模纳税人去年免税,红冲后今年开多少税率的发票
  • 会计中财务费用为负
  • 企业没有ca怎么登陆公积金账户
  • 制造费用月末一般有余额吗
  • python异常值处理方法
  • python线程间通信的几种方法
  • 耕地税税率是多少
  • 成本核算需要哪些数据
  • 改良生产线发生的职工薪酬计入期间费用
  • 销售返利可以税前扣除吗
  • 其他债权投资如何计提减值
  • 未计提坏账准备发生坏账如何处理
  • 三包适用范围
  • 商业会计主要做什么
  • 股东如何收回投资款
  • 有没有确认
  • 其他非流动资产是金融资产吗
  • 场地租用招标方案怎么写
  • 现代服务业包括哪些
  • 利用arp指令,能够防止arp欺骗吗?
  • xp系统java环境变量配置
  • mac安装win10键盘失灵
  • .intro
  • centos基础命令
  • win10日历提醒不显示
  • cocos2d官网
  • opengl learning
  • jquery的事件处理有哪些
  • android读写sd卡权限
  • web开发手机app
  • js入门基础教程
  • javascript怎么编写
  • 简述activity的生命周期中有哪几种状态
  • android studio操作指南
  • jquery图片轮播代码
  • 新疆12366网上办税
  • 国家税务总局是正部级还是副部级
  • 税务人的形象
  • 如何填写财产申报表
  • 社保卡手机缴费怎么交不了
  • 百望税控盘怎么导出清单明细
  • 审计验资费计入什么科目
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设