位置: 编程技术 - 正文
用好anyproxy提高公众号文章采集效率
编辑：rootadmin影响因素主要会有以下几点：
1、网络环境不佳；
2、手机或模拟器中微信客户端崩溃；
3、其它一些网络传输错误；
因为我比较看重采集系统的运行成本，这个成本包括硬件投入，运算力投入和占用的人工精力。所以必须提高运行的稳定性。因此如果采集中断，必然增加人工精力的成本。所以针对这一点我对anyproxy做了一些进阶的改造，并且借助了其它一些工具提高了运行效率。以下就是具体的解决方法：
一、代码升级
1）微信浏览器白屏
解决方法：修改文件requestHandler.js，还是在rule_default.js同级目录下，（mac系统/usr/local/lib/node_modules/anyproxy/lib/；win系统评论区网友cnbattle提供C:UsersAdministratorAppDataRoamingnpmnode_modulesanyproxylib）
在代码中找到proxyReq.on("error",function(e){这个函数，并修改内容
这样当发生错误时，会返回一个刷新当前页面的js；这样程序就能继续下去了
2）替换所有图片，减轻浏览器负担
首先需要制作一张非常小的图片，我做的是1x1像素，png透明图；放到任意文件夹里。然后修改文件rule_default.js的代码：
在文件开头有许多var的位置加入以下代码
在下面的代码中找到shouldUseLocalResponse : function(req,reqBody){函数，在函数内插入代码：
继续在下面的代码中找到dealLocalResponse : function(req,reqBody,callback){函数，在函数内插入代码：
这三段代码就会将公众号里面的所有图片替换成本地图片，减轻网络传输压力和浏览器占用的内存，有效的提高运行效率；
3）禁止手机或模拟器访问一些无用的和会导致错误的网址
同样在rule_default.js里找到代码replaceRequestOption : function(req,option){函数，在函数内部插入代码：
这个修改之前的文章也提到过了，在这里重新再详细介绍一下。他的用途很多，不同的手机和模拟器都有可能访问一些无用的地址导致设备变慢，通过这个代码就可以阻止访问。
二、使用pm2管理anyproxy进程
pm2 是一个带有负载均衡功能的Node应用的进程管理器.
当你要把你的独立代码利用全部的服务器上的所有CPU，并保证进程永远都活着，0秒的重载， PM2是完美的。它非常适合IaaS结构，但不要把它用于PaaS方案（随后将开发Paas的解决方案）.
主要特性：
内建负载均衡（使用Node cluster 集群模块）
后台运行
0秒停机重载，我理解大概意思是维护升级的时候不需要停机.
具有Ubuntu和CentOS 的启动脚本
停止不稳定的进程（避免无限循环）
控制台检测
提供 HTTP API
远程控制和实时的接口API ( Nodejs 模块,允许和PM2进程管理器交互 )
测试过Nodejs v0. v0. v0.8版本，兼容CoffeeScript,基于Linux 和MacOS.
首先安装pm2
在pm2环境下运行anyproxy
现在anyproxy就在pm2的环境中运行了
之后还有几个pm2的命令可以帮助管理和监控anyproxy
特别提示：pm2运行后，终端窗口是可以关闭的。
使用pm2管理anyproxy进程，最重要的目的是：anyproxy因为错误而退出程序之后，pm2可以另anyproxy自动重启。
三、取消sudo密码，并使pm2开机自启
以下内容是在mac环境下的方法，windows也应该有类似的方法，如果了解的网友可以私信发给我。
1）首先取消sudo的密码
运行命令：
找到代码：
修改为：
这样sudo的密码就取消掉了，然后就可以将pm2加入到开机自启动中了
2）设置开机自启
在终端中输入命令：
然后进入编辑模式，按键盘字母i开始编辑，粘贴代码：
编辑完之后，按esc，再键入命令wq保存退出编辑模式。
再执行命令：
这样一个可执行文件就建立好了
然后打开mac系统的“系统偏好设置”，找到“用户与群组”，在左侧选择当前用户，右侧选择登录项；然后点击+号，找到当前用户的根目录（可以按shift+command+h快捷键），选择autoexec.sh文件，添加到登录项中，就可以开机自启动了。
经过以上的几项设置之后，anyproxy系统就会比原来更加稳定，其实主要原因是模拟器或手机的不稳定导致的anyproxy发生的错误。经过实际测试，anyproxy目前可以长时间运行不崩溃。而微信客户端还是在运行大约6个小时之后崩溃，以2秒翻一页的速度，采集总数大约1万个页面。如果不采集阅读量，就可以是1万个公众号的历史消息页。
微信客户端的崩溃现象是退出微信浏览器，停留在查看公众号资料页面。所以如果希望再进一步提高自动化，也可以使用触动精灵之作自动化脚本，定时推出微信浏览器，再点击历史消息页。这样应该就可以实现长时间自动化采集了。
PHP写微信公众号文章页采集方法 通过搜狗搜索采集公众号历史消息有几个问题：1、有验证码；2、历史消息列表只有最近条群发内容；3、文章地址是有有效期的；4、据说批量采集还
如何采集微信公众号历史消息页 采集微信文章和采集网站内容一样，都需要从一个列表页开始。而微信文章的列表页就是公众号里的查看历史消息页。现在网络上的其它微信采集器有
php提取身份证号码中的生日日期以及验证是否为成年人的函数 php提取身份证号码中的生日日期以及确定是否成年的一个函数。可以同时确定位和位的身份证，经本人亲测，非常好用，分享函数代码如下：php//用ph
上一篇：PHP 闭包获取外部变量和global关键字声明变量的区别讲解(php调用外部接口)
下一篇：PHP写微信公众号文章页采集方法(php推送微信公众号客户消息)
