位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 老项目增值税简易计税
  • 增值税税率
  • 旅客运输服务解释
  • 企业所得税应纳税所得额怎么算
  • 税收分类编码是唯一的吗
  • 更正以前年度费用账务处理
  • 小规模不动产租赁增值税税率是多少
  • 合同取得成本如何结转
  • 油补是福利费还是工资
  • 没有报关单可以结汇吗
  • 预收货款多长时间结清
  • 转登记为小规模纳税人政策
  • 企业购入办公桌和办公椅的核算
  • 消费税在流通环节征税吗
  • 购原材料红字发票会计分录怎么写?
  • 新成立的公司银行存款如何入账
  • 摊销商标使用权的会计科目
  • 企业一般户可以扣税吗
  • 2020年购进农产品的扣除率
  • 季节工有工伤吗
  • 农产品收购发票怎么抵扣
  • 财税[2016]101
  • 银行承兑汇票盖已承兑登记
  • 销售佣金的税率怎么算
  • 广告业的定额发票可以税前扣除么?
  • 所得税新规定
  • 受托加工物资的账务处理例题
  • 当月支付的费用需要计提吗
  • 如何冲减其他应付款又不影响银行存款
  • 替换重置的设备更新应考虑
  • php中表单的使用
  • 方正书版10.0教程
  • 契税发票遗失怎么处理
  • 在承租土地上建房是否应核算为固定资产会计视野
  • 纳税调整增加额怎么做会计分录
  • 网上打印企业征信报告
  • java web购物系统
  • thinkphp yii
  • 已勾选确认的发票怎样撤销勾选
  • 预缴增值税借方余额
  • 固定资产类别有哪些
  • 年终奖税金怎么扣
  • 织梦系统
  • access china
  • 成本会计制造费用核算的内容
  • 以前年度多计提增值税
  • 科目余额表怎么填
  • 发票的规格型号有字数限制吗
  • 城建税的减免规定有哪些
  • sql2005备份数据库
  • db2 history
  • MySQL/Postgrsql 详细讲解如何用ODBC接口访问MySQL指南
  • 购买服务费用
  • 会计丁字记账法
  • 加计抵减与加计抵消区别
  • 所得税汇算清缴需要调增的项目
  • 村集体经济组织架构
  • 递延收益影响当期所得税吗为什么
  • 现金流量的折现值公式
  • 教育行业会计科目表
  • 半个固定资产如何折旧
  • 全额抵扣怎么申报
  • mysql拆表迁移数据
  • 华硕p8h61主板升级cpu
  • 使用注册表删除软件时,有些拒绝访问
  • xp系统的本地连接
  • win8怎么固定桌面
  • 快速解决便秘的小妙招
  • Unity3D游戏开发pdf
  • javascript entries
  • js如何创建类
  • jquery绑定keyup
  • python cx_Oracle模块的安装和使用详细介绍
  • python自动化验证码
  • python去除文件中的空格
  • 基于python的研究
  • js实现文本框输入功能
  • javascript面向对象精要pdf
  • 如何登录黑龙江全省事
  • 江苏地方税务局2013招考公告
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设