位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 个人社保部分公司承担可以入费用吗
  • 当年亏损额为什么不能填?
  • 销售收入与营业费用的配比
  • 税率如何衡量税负
  • 增值税开票金额最大多少
  • 贸易公司经营范围有限制吗
  • 制药企业税收优惠政策
  • 增加税收的方法有哪些
  • 快消品行业成本结转方法
  • 以无形资产投资入股缴纳哪些税收
  • 机动车销售发票是否需要认证
  • 出售使用过的生产设备
  • 高新技术企业一定是先进制造业吗
  • 铲车费属于劳务费吗
  • 营改增金融业税收政策
  • 小规模纳税人的季度
  • 个人利息收入交不交增值税
  • 公司注册资金未实缴可以申请破产吗
  • 员工离职违约金怎么算
  • 增值税小规模纳税人适用3%征收率
  • 税率税额是星号什么意思
  • 网上申报城建税及附加怎么操作
  • 固定资产的折旧从什么时候开始
  • 工程合同外购设备怎么开票
  • 租入的生产设备改良支出计入什么费用
  • 征地过程中会产生哪些费用
  • win10双屏怎么切换屏幕
  • 车间整改的目的
  • 代开的发票没有人名行不行?
  • php中字符串函数
  • 日记账登记错了怎么办
  • 极路由怎么用
  • 员工补偿金分录
  • 外单位承担
  • 增值税进项税转出文件
  • 大学网页制作作业dw
  • 前端如何适配移动端
  • 在国内如何用ChatGPT
  • fdisk命令的功能是什么?
  • 微信公众号开发用什么语言
  • mysql分区实现
  • 投资别人公司的注意事项
  • 退休认证在网上怎么操作
  • wordpress 自动生成文章
  • 什么情况下要去y加ies
  • 新入职员工什么时候发工资
  • 个人独资企业需要会计做账吗
  • 企业所得税季度申报数据怎么来
  • 房地产开发公司注册资金要求
  • 固定资产的计提折旧方法有哪些
  • 发生销售折让的双方应做的会计分录是
  • 出口退税退的是哪些税
  • 劳务报酬税目
  • 违约投标保证金多少
  • 工会经费支出范围
  • 一般纳税人拿到普票怎么处理账务
  • 质量有问题不给退怎么办
  • 记录一次博客迁移到Docker上的操作
  • wpr是什么软件
  • win10预览版最新
  • hyper run
  • win10 edge浏览器设置信任站点
  • win8浏览器打不开网页但能上网
  • macbook外接多个显示器
  • windows图片锁屏
  • ,linux
  • 微信小程序自动跳转怎么关闭
  • javascript entries
  • nodejs可以直接操作数据库
  • Lesson02_04 表单标签(2)
  • javascript选项
  • Node.js中 __dirname 的使用介绍
  • js对象属性值
  • 税控发票开票软件密码怎么修改?
  • 电子税务局财务报表利润表本期金额
  • 广东税务个人账号注销后会怎样
  • 土地规划资质业务范围
  • 代理记账和代理的区别
  • 税务局的纳税服务有哪些
  • 出口退税账户标识是否怎么选
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设