位置: 编程技术 - 正文

NodeJS的url截取模块url-extract的使用实例(nodejs截图)

编辑:rootadmin

上次介绍了怎么利用NodeJS + PhantomJS进行截图,但由于对每次截图操作,都启用了一个PhantomJS进程,所以并发量上去后,效率堪忧,所以我们重写了所有代码,并将其独立成为一个模块,方便调用。如何改进?控制线程数,以及单线程处理url数量。使用Standard Output & WebSocket 进行通讯。添加缓存机制,目前使用Javascript Object进行。对外提供简易的接口。 设计图

依赖 & 安装

由于PhantomJS 1.9.0+才开始支持Websocket,所以我们先要确定在PATH中的PhantomJS是为1.9.0以上版本。在命令行键入:

$ phantomjs -v

如果能返回版本号1.9.x,则可以继续操作。如果版本过低,或者出现错误,请到PhantomJS官网下载最新版本。

如果你已经安装了Git,或者拥有Git Shell,那么在命令行键入:$ npm install url-extract

进行安装。一个简单的例子 比如我们要截取百度首页,那么可以这样:

下面是打印:

其中,image属性就是截图相对于工作路径的地址。我们可以使用Job的getData接口来得到更清楚的数据,例如:

打印就变成了这样了:

image表示截图相对于工作路径的地址,status表示状态是否正常,true代表正常,false代表截图失败。

更多例子请参见:

主要API

.snapshot

url快照

.snapshot(url, [callback]).snapshot(urls, [callback]).snapshot(url, [option]).snapshot(urls, [option])

.extract

url信息抓取,并获取快照

.extract(url, [callback]).extract(urls, [callback]).extract(url, [option]).extract(urls, [option])

url {String} 要截取的地址

urls {Array} 要截取的地址数组

callback {Function} 回调函数

option {Object} 可选参数

┝ id {String} 自定义url的id,如果第一个参数是urls,此参数无效

┝ image {String} 自定义截图的保存地址,如果第一个参数是urls,此参数无效

┝ groupId {String} 定义一组url的groupId,用于返回时候辨认是哪一组url

┝ ignoreCache {Boolean} 是否忽略缓存

┗ callback {Function} 回调函数

Job(类)

每一个url对应一个job对象,url的相关信息由job对象存储。

Field

url {String} 链接地址content {Boolean} 是否抓取页面的title和description信息id {String} job的idgroupId {String} 一堆job的组idcache {Boolean} 是否开启缓存callback {Function} 回调函数image {String} 图片地址status {Boolean} job当前是否正常

Prototype

getData() 获取job的相关数据

全局配置

url-extract根目录中的config文件可以进行全局配置,默认如下:

module.exports = { wsPort: , maxJob: , maxQueueJob: , cache: 'object', maxCache: , workerNum: 0};wsPort {Number} websocket占用的端口地址maxJob {Number} 每个PhantomJS线程可并发worker数maxQueueJob {Number} 最大等待工作数量,0表示不限制,超过该数量,任何工作都直接返回失败(即status = false)cache {String} 缓存实现,目前只有object实现maxCache {Number} 最大缓存链接数workerNum {Number} PhantomJS线程数,0表示和CPU数量相同

一个简单的服务例子

npm install

如果你下载了网盘的文件,那么请安装connect:

$ npm install connect

然后键入:

$ node bin/server

打开:

;

推荐整理分享NodeJS的url截取模块url-extract的使用实例(nodejs截图),希望有所帮助,仅作参考,欢迎阅读内容。

NodeJS的url截取模块url-extract的使用实例(nodejs截图)

文章相关热门搜索词:node获取url参数,nodejs 解析html,node url,nodejs url,nodejs url.parse,nodejs url.parse,nodejs url,nodejs url,内容如对您有帮助,希望把文章链接给更多的朋友!

ExtJS自定义主题(theme)样式详解 本文基于ExtJS4.2.1版本UI组件基础学习ExtJS就是学习组件的使用。ExtJS4对框架进行了重构,其中最重要的就是形成了一个结构及层次分明的组件体系,由这

深入领悟JavaScript中的面向对象 JavaScript是面向对象的。但是不少人对这一点理解得并不全面。在JavaScript中,对象分为两种。一种可以称为普通对象,就是我们所普遍理解的那些:数字

YUI模块开发原理详解 随着互联网应用越来越重,js代码越来越庞大,如何有效的去组织自己的代码,变得非常重要。我们应该学会去控制自己的代码,而不是到最后一堆bug

标签: nodejs截图

本文链接地址:https://www.jiuchutong.com/biancheng/373654.html 转载请保留说明!

上一篇:NodeJS url验证(url-valid)的使用方法(node urlencode)

下一篇:ExtJS自定义主题(theme)样式详解(excel自定义样式)

  • 个税返还奖励财务人员流程
  • 个人哪些捐赠可以税前扣除
  • 挂车和牵引车如何选
  • 固定资产更新改造资本化条件
  • 从厂家拿货怎么谈价格
  • 一般风险准备是留存收益吗
  • 免税增值税的有哪几项
  • 本月无销售额,但是有进项,需要认证吗
  • 暂估资产会计处理
  • 非盈利组织是什么
  • 建安企业个人所得税
  • 应收账款转入呆账如何做帐
  • 财产租赁所得如何申报
  • 收到子公司分红需要交所得税吗?
  • 销售款的印花税是按含税还是不含税价款申报?
  • 旅客运输抵税
  • 总分机构类型怎么选
  • 未开票收入纳税
  • 代扣代缴手续费要交增值税吗
  • 闲置房屋
  • 公司支付货款怎么做账
  • 滴滴公司的员工打车要钱吗
  • 计提增值税的会计科目
  • 生活服务业内容
  • 已认证进项税发票可抵扣么
  • emsm是什么意思
  • 房产营销策划经典案例
  • 财务管理集权与分权
  • 无人驾驶控制方向
  • 存货销售收入
  • 土地抵减销项税 土地增值税
  • framework core
  • thinkphp教程
  • 西安微信公众号开发
  • 售后租回怎么理解
  • 个人独资企业所得税弥补亏损
  • 专利技术的增值税
  • 上市公司发行股票会计分录
  • 应交税费的期末余额在借方表示什么
  • 企业应采用
  • 非财政补助结转和非财政补助结余的区别
  • 本期应纳税额减征额怎么算
  • 免抵退税的会计分录
  • 织梦百科
  • python中的thread
  • css入门经典
  • 代扣员工伙食费
  • mysql数据库恢复方式
  • sql server数据类型明明放的是浮点型,老是说是其他的
  • 个人转让房产税率
  • 企业所得税几种税率
  • 运输业开发票
  • 退回的保证金多了一点怎么做分录
  • 仓储领域
  • 专打发票的打印机
  • 买钢管扣件
  • 累计摊销可以做什么分录
  • 敬老院的会计科目
  • sql server 数据
  • 微软桌面 ios
  • 微软终止代码大全
  • 怎么彻底卸载visual
  • 怎样修改windows开机密码
  • mac怎么打开terminal
  • porteus中文版下载
  • ubuntu15.04系统怎么使用卸载命令卸载软件?
  • win8应用显示错误
  • macbook备份数据
  • linux xfs 扩容
  • linux shell脚本编程100例
  • python windows gui
  • js判断元素是否显示
  • 关于学习的名言
  • web miui
  • 广东发票查询真伪网站
  • 四川省税务局官方网站申报窗口
  • 企业所得税季度申报表填报说明
  • 小微企业印花税减半政策
  • 延安市地方税务局电话
  • 减免税备案登记表样本
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设