位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 期末未缴税额为负数怎么调整
  • 个体工商户税务申报
  • 速达建账套期初数据
  • 应付账款坏账了怎么处理
  • 办税人员可以是其他公司人员吗
  • 认证不抵扣的账务处理
  • 土地出让金返还政策文件
  • 退回多打货款分录
  • 商业折扣的纳税影响
  • 房产评估费会计分录
  • 税务局多扣的税可以退吗
  • 固定资产报废残料收入的账务处理
  • 已经使用的固定资产其变动方式等基础资料将
  • 公司为员工买保险好还是个体户为员工买保险好
  • 税控服务费全额抵扣文件
  • 开票码是什么意思
  • 单位代扣代缴个人社保
  • 并购重组协议样本
  • 小企业报表为什么勾选不到小型微利企业
  • 应交税费借方余额填列资产负债表
  • 资产负债表里面应付账款怎么算
  • 金融企业准备金计提管理办法最新
  • 公司对公账户可以转私人账户多久到账
  • 土地税返还的会计分录
  • 报税遇节假日延长吗?
  • 外贸企业进项税额转出会计分录
  • 供热公司向用户提供
  • qqprotect.exe是什么进程?qqprotect.exe怎么禁止自动启动?
  • 企业预付保险费怎么做账
  • 专业版 win10
  • php类和对象写法
  • RAVMOND.exe - RAVMOND是什么进程.有什么作用
  • win7为什么现在不能用了
  • php str函数
  • 将款项汇往外地采购专用账户会计分录
  • 委托加工的加工费是含税的吗
  • vue3.0项目
  • 报销办公用品会计分录计入其他应付还是其他应收
  • 记账凭证和原始凭证都是登记账簿的直接依据
  • 怎么确认个税填报成功
  • 电费打发票用哪个软件
  • php swoole框架
  • 2023英伟达显卡天梯图完整版
  • vue区别
  • 消费积分如何做账
  • 无形资产和固定资产减值准备可以转回吗
  • 门店有营业执照仓库加工要办营业执照
  • 政府补贴流程
  • 会务费如何入账
  • 税控盘的作用是什么
  • 免税销售额和本期免税额
  • 固定资产减值准备可以转回吗
  • 固定资产盘盈为何要交所得税
  • 固定资产后续支出一律计入固定资产成本
  • 广告被罚
  • 日后调整事项的记账凭证怎样装订
  • 疫情防控重点保障物资免征增值税
  • 协作费用
  • sql导入csv数据
  • mysql order by desc
  • 快速插入大量数据的asp.net代码(Sqlserver)
  • win8系统怎么关闭投影
  • win 10 ie8
  • 1sass.exe是什么程序
  • xp怎么改密码怎么设置
  • linux中make
  • centos 安装perl
  • win8操作中心怎么关闭
  • 如何dj
  • window10 360
  • linux常用桌面环境
  • js填写input
  • python的math模块只有pass
  • unity获取物体位置代码
  • 黑龙江省国家税务局通用定额发票
  • 分公司的总公司
  • 豫事办登录时密码叫重置什么原因
  • 福建地税网上办事大厅
  • 上海电子税务平台开票不含税怎么改成含税
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设