位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 个人所得税减除费用5000是什么意思
  • 实收资本怎么交所得税
  • 其他资本公积可以是负数吗
  • 季报利润表本期金额怎么计算
  • 已经抵扣的发票还能红冲吗?怎么操作
  • 出纳工人借支与贷款区别
  • 进口增值税已抵扣想出口
  • 个体户到税务局开专票
  • 境外企业开票没有税号怎么办?
  • 增值税普通发票查询真伪
  • 一个公司可以有几个公章
  • 工程预缴税款几个点
  • 长期股权投资的初始计量
  • 税控盘超期还能清卡吗
  • 电商企业如何确定产品结构
  • 外经证过期没报验
  • 投入资本公积需要结转吗
  • 在建工程二级科目待摊支出
  • 其他应收款押金计提坏账吗
  • 购货方跨月销项负数发票如何做账?
  • 公司对外租赁
  • 增值税发票是不是可以抵税
  • 发放股票股利会增加流通在外股票的数量
  • 已经计提工资后怎么做账
  • iphone中的照片如何找回
  • 发票开了对方未付款
  • 公司的劳务费支出怎么做账
  • 分期摊销法计算公式
  • rtlcpl.exe
  • apache安装与配置windows
  • php copy函数
  • 跨期摊提类账户
  • 强制划缴税款
  • 享受小型微利企业税收优惠的条件
  • 支付给个人的劳务报酬代扣个税
  • php浮点数
  • 小满内容
  • python pyecharts
  • 创建command对象
  • 水费发票掉了可以补打吗
  • 利润表的格式分为哪几种
  • 有外币账户的企业叫什么
  • 罚款属于其他业务收入吗
  • mac os x10.9.5
  • 企业注销其他应收款有数,要交税吗?
  • 长期借款属于什么会计分录
  • 计提持有至到期债券投资的利息
  • 营运资产周转次数计算公式是什么意思
  • 企业的纳税申报数据来源于
  • 基本生产成本核算的内容
  • 出口退免税的条件
  • 实收资本变更登记
  • 多提税金的具体分录
  • 产品的包装费属于什么科目?
  • 无形资产入账价值包括费用化支出吗
  • 劳务收入是什么科目
  • 销项税额是负数怎么做账
  • 游戏公司的主营业务成本
  • 怎么卸载xp系统安装win7系统
  • centos7 home
  • win8系统如何查看电脑内存
  • mac如何切换界面 快捷键
  • window打开
  • 微软发布Win10优化工具
  • linux系统的服务器,重启之后运算速度变慢
  • cocos 2d x
  • cocos 2d x
  • bat脚本ftp上传文件
  • jquery左右选择框
  • js小数计算精度问题
  • jquery中的事件和事件处理有哪些
  • 电子原理图实例讲解
  • js 分页插件
  • Python内置的HTTP协议服务器SimpleHTTPServer使用指南
  • javascript面向对象编程指南
  • opencv识别结果输出
  • 广东税务个人账号注销后会怎样
  • 国家税务培训信息网官网
  • 山西省税务局官网登录
  • 上海网上申报软件怎样下载
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设