位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 资产负债表债务法核算所得税
  • 公司有流水不申报会怎么样
  • 旅客运输进项税可以加计抵减么
  • 金蝶专业版利润表本年累计公式
  • 房屋租赁合同印花税的税率
  • 不征收耕地占用税的情形
  • 企业无力支付票据
  • 验资资金转出如何做账
  • 代扣税金是什么意思
  • 一般纳税人为什么要开专票
  • 企业购车票可以抵扣增值税吗?
  • 什么计入在途物资
  • 营改增前取得的不动产出售的计税方法
  • 小规模9万是含税吗
  • 平销行为如何冲减进项税金
  • 软件后续服务
  • 商贸公司进项税额大
  • 所得税申报怎么弥补以前年度亏损
  • 返利销售会计处理办法
  • 企业所得税申报流程
  • 补缴以前年度附加税
  • 固定资产出售收入属于什么收入
  • 优先股的发行主体
  • 腾讯云centos5.8
  • 线上网速测试
  • PHP:oci_rollback()的用法_Oracle函数
  • 公积金贷款额度查询计算器
  • 企业员工个人所得税申报流程
  • 如何失业保险金
  • 农村自建房买卖怎样才合法
  • swoole如何使用
  • 高新技术企业补助需要交所得税吗
  • 一品红怎么养才长得好
  • 运输企业成本核算内容有哪些?
  • 'The Wave' sandstone formation in Coyote Buttes North, Paria Canyon-Vermilion Cliffs National Monument, Arizona (© Dennis Frates/Alamy)
  • 前后端交互用什么技术
  • 附加税退税申请理由模板
  • python读书笔记
  • 2020注册谷歌账号方法
  • ls -all命令
  • 固定资产毁损应该填制什么凭证
  • 未分配利润在科目余额表里怎么看
  • 营业执照如何申请移出异常
  • 有趣的 Go HttpClient 超时机制
  • 织梦的首页怎么换图片
  • centos7.1
  • mongodb 数据文件
  • 买水果送水果这样营销可以吗
  • 企业投资股权收益如何征税
  • 无法支付的应付账款为什么计入营业外支出
  • 公司聘请专家工资怎么算
  • 出纳去银行存现
  • 其他业务收入的现金流放哪里?
  • 盈余公积多计提对报表的影响
  • 企业哪些税费不通过应交税费账户进行核算
  • 报税营业成本包括哪些费用
  • 分公司做账报税
  • 税金及附加如何记账
  • 普票抵扣
  • 存货明细账余额合计与存货总账余额相同
  • 删除默认操作系统
  • win2003server远程设置
  • 让Windows Server 2008系统安全更上一层楼
  • centos怎么配置ssh
  • linux使用方式有哪些方面
  • 如何查看windows8.1版本
  • Remind_XP.exe - Remind_XP是什么进程 有什么用
  • w10操作系统内部版本
  • 你需要windows7sp1才能安装ie11
  • WIN7系统的镜像文件在哪里
  • 奇门遁甲实例详解
  • python开发技术详解(全27集),5
  • [android] android开发中常用的Eclipse快捷键
  • easyui导出excel表格
  • OnBecameVisible和OnBecameInvisible ,OnWillRenderObject
  • kmp算法理解
  • 税务局是什么单位类型
  • 税务工会费缴费标准
  • 留底税额怎么写分录
  • 深圳交警的微博
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设