位置: 编程技术 - 正文

百万级别知乎用户数据抓取与分析之PHP开发(知乎百万大v)

编辑:rootadmin

推荐整理分享百万级别知乎用户数据抓取与分析之PHP开发(知乎百万大v),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:知乎百万赞,知乎百万大v,知乎百万赞,知乎 一百万,知乎百万赞,知乎 一百万,知乎 一百万,知乎 100万,内容如对您有帮助,希望把文章链接给更多的朋友!

这次抓取了万的用户数据,数据分析结果如下:

开发前的准备

安装Linux系统(Ubuntu.),在VMWare虚拟机下安装一个Ubuntu;

安装PHP5.6或以上版本;

安装curl、pcntl扩展。

使用PHP的curl扩展抓取页面数据

PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

一个个地复制,以"__utma=&#;;__utmb=&#;;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

初始的示例:

运行上面的代码可以获得mora-hu用户的个人中心页面。利用该结果再使用正则表达式对页面进行处理,就能获取到姓名,性别等所需要抓取的信息。

图片防盗链

在对返回结果进行正则处理后输出个人信息的时候,发现在页面中输出用户头像时无法打开。经过查阅资料得知,是因为知乎对图片做了防盗链处理。解决方案就是请求图片的时候在请求头里伪造一个referer。

在使用正则表达式获取到图片的链接之后,再发一次请求,这时候带上图片请求的来源,说明该请求来自知乎网站的转发。具体例子如下:

抓取了自己的个人信息后,就需要再访问用户的关注者和关注了的用户列表获取更多的用户信息。然后一层一层地访问。可以看到,在个人中心页面里,有两个链接如下:

这里有两个链接,一个是关注了,另一个是关注者,以“关注了”的链接为例。用正则匹配去匹配到相应的链接,得到url之后用curl带上cookie再发一次请求。抓取到用户关注了的用于列表页之后,可以得到下面的页面:

分析页面的html结构,因为只要得到用户的信息,所以只需要框住的这一块的div内容,用户名都在这里面。可以看到,用户关注了的页面的url是:

不同的用户的这个url几乎是一样的,不同的地方就在于用户名那里。用正则匹配拿到用户名列表,一个一个地拼url,然后再逐个发请求(当然,一个一个是比较慢的,下面有解决方案,这个稍后会说到)。进入到新用户的页面之后,再重复上面的步骤,就这样不断循环,直到达到你所要的数据量。

Linux统计文件数量

脚本跑了一段时间后,需要看看究竟获取了多少图片,当数据量比较大的时候,打开文件夹查看图片数量就有点慢。脚本是在Linux环境下运行的,因此可以使用Linux的命令来统计文件数量:

其中, ls -l 是长列表输出该目录下的文件信息(这里的文件可以是目录、链接、设备文件等); grep "^-" 过滤长列表输出信息, "^-" 只保留一般文件,如果只保留目录是 "^d" ; wc -l 是统计输出信息的行数。下面是一个运行示例:

百万级别知乎用户数据抓取与分析之PHP开发(知乎百万大v)

插入MySQL时重复数据的处理

程序运行了一段时间后,发现有很多用户的数据是重复的,因此需要在插入重复用户数据的时候做处理。处理方案如下:

1)插入数据库之前检查数据是否已经存在数据库;

2)添加唯一索引,插入时使用 INSERT INTO ... ON DUPLICATE KEY UPDATE...

3)添加唯一索引,插入时使用 INSERT INGNORE INTO...

4)添加唯一索引,插入时使用 REPLACE INTO...

使用curl_multi实现多线程抓取页面

刚开始单进程而且单个curl去抓取数据,速度很慢,挂机爬了一个晚上只能抓到2W的数据,于是便想到能不能在进入新的用户页面发curl请求的时候一次性请求多个用户,后来发现了curl_multi这个好东西。curl_multi这类函数可以实现同时请求多个url,而不是一个个请求,这类似于linux系统中一个进程开多条线程执行的功能。下面是使用curl_multi实现多线程爬虫的示例:

HTTP Too Many Requests

使用curl_multi函数可以同时发多个请求,但是在执行过程中使同时发个请求的时候,发现很多请求无法返回了,即发现了丢包的情况。进一步分析,使用 curl_getinfo 函数打印每个请求句柄信息,该函数返回一个包含HTTP response信息的关联数组,其中有一个字段是http_code,表示请求返回的HTTP状态码。看到有很多个请求的http_code都是,这个返回码的意思是发送太多请求了。我猜是知乎做了防爬虫的防护,于是我就拿其他的网站来做测试,发现一次性发个请求时没问题的,证明了我的猜测,知乎在这方面做了防护,即一次性的请求数量是有限制的。于是我不断地减少请求数量,发现在5的时候就没有丢包情况了。说明在这个程序里一次性最多只能发5个请求,虽然不多,但这也是一次小提升了。

使用Redis保存已经访问过的用户

抓取用户的过程中,发现有些用户是已经访问过的,而且他的关注者和关注了的用户都已经获取过了,虽然在数据库的层面做了重复数据的处理,但是程序还是会使用curl发请求,这样重复的发送请求就有很多重复的网络开销。还有一个就是待抓取的用户需要暂时保存在一个地方以便下一次执行,刚开始是放到数组里面,后来发现要在程序里添加多进程,在多进程编程里,子进程会共享程序代码、函数库,但是进程使用的变量与其他进程所使用的截然不同。不同进程之间的变量是分离的,不能被其他进程读取,所以是不能使用数组的。因此就想到了使用Redis缓存来保存已经处理好的用户以及待抓取的用户。这样每次执行完的时候都把用户push到一个already_request_queue队列中,把待抓取的用户(即每个用户的关注者和关注了的用户列表)push到request_queue里面,然后每次执行前都从request_queue里pop一个用户,然后判断是否在already_request_queue里面,如果在,则进行下一个,否则就继续执行。

在PHP中使用redis示例:

使用PHP的pcntl扩展实现多进程

改用了curl_multi函数实现多线程抓取用户信息之后,程序运行了一个晚上,最终得到的数据有W。还不能达到自己的理想目标,于是便继续优化,后来发现php里面有一个pcntl扩展可以实现多进程编程。下面是多编程编程的示例:

在Linux下查看系统的cpu信息

实现了多进程编程之后,就想着多开几条进程不断地抓取用户的数据,后来开了8调进程跑了一个晚上后发现只能拿到W的数据,没有多大的提升。于是查阅资料发现,根据系统优化的CPU性能调优,程序的最大进程数不能随便给的,要根据CPU的核数和来给,最大进程数最好是cpu核数的2倍。因此需要查看cpu的信息来看看cpu的核数。在Linux下查看cpu的信息的命令:

其中,model name表示cpu类型信息,cpu cores表示cpu核数。这里的核数是1,因为是在虚拟机下运行,分配到的cpu核数比较少,因此只能开2条进程。最终的结果是,用了一个周末就抓取了万的用户数据。

多进程编程中Redis和MySQL连接问题

在多进程条件下,程序运行了一段时间后,发现数据不能插入到数据库,会报mysql too many connections的错误,redis也是如此。

下面这段代码会执行失败:

根本原因是在各个子进程创建时,就已经继承了父进程一份完全一样的拷贝。对象可以拷贝,但是已创建的连接不能被拷贝成多个,由此产生的结果,就是各个进程都使用同一个redis连接,各干各的事,最终产生莫名其妙的冲突。

解决方法: 程序不能完全保证在fork进程之前,父进程不会创建redis连接实例。因此,要解决这个问题只能靠子进程本身了。试想一下,如果在子进程中获取的实例只与当前进程相关,那么这个问题就不存在了。于是解决方案就是稍微改造一下redis类实例化的静态方式,与当前进程ID绑定起来。改造后的代码如下:

PHP统计脚本执行时间

因为想知道每个进程花费的时间是多少,因此写个函数统计脚本执行时间:

ThinkPHP数据操作方法总结 本文实例总结了ThinkPHP数据操作方法。分享给大家供大家参考。具体如下:一、ThinkPHPInsert添加数据ThinkPHP内置的add方法用于向数据表添加数据,相当于SQ

ThinkPHP表单数据智能写入create方法实例分析 本文实例讲述了ThinkPHP表单数据智能写入create方法。分享给大家供大家参考。具体如下:创建数据对象create()除了手动构造入库的数据集之外,ThinkPHP还

PHP中把对象数组转换成普通数组的方法 最近在用ThinkPHP开发一个京东服务市场的应用,然而京东服务市场接口返回的数据是个对象数组。然而需要一个个属性取出来放到数组里面然后再利用Thi

标签: 知乎百万大v

本文链接地址:https://www.jiuchutong.com/biancheng/284435.html 转载请保留说明!

上一篇:WIFI万能钥匙密码查询接口实例(wifi万能钥匙密码王)

下一篇:ThinkPHP数据操作方法总结(thinkphp 数据库查询)

  • 税中税是多少
  • 应预缴税款如何计算?
  • 安全生产费用怎么入账
  • 债券的利益
  • 如何使用发票对冲个人所得税
  • 减半征收企业所得税的项目有哪些?
  • 母公司收取服务费请示
  • 土地使用税延期还延续吗
  • 计提税费怎么写分录
  • 股权转让后没有给转让费怎么办
  • 筹建期间取得的专用发票怎么入账
  • 企业所得税营业税金及附加
  • 企业所得税预缴政策
  • 私营企业所得税是多少
  • 机票抵扣增值税需要什么凭证
  • 筹备期间的开办企业是指
  • 异地 发票
  • 加工业务怎么报税的
  • 公司收到保险公司退保费怎么账务处理
  • 广告公司车身广告
  • 签发商业承兑汇票计入什么科目
  • 票据权利消灭是啥意思
  • 工资税后补扣是什么意思
  • php cgi配置
  • 最小的固态硬盘多大尺寸
  • wordpress相关文章
  • php动态页面实例
  • 清算期间会计分录
  • php实现用户登录
  • 边角料是否计入生产成本
  • javascript生成器
  • segment anything model github
  • 前端promise封装
  • 滑模控制理论与应用研究pdf
  • js实现功能
  • 其他非流动资产是会计科目吗
  • 同事写了一个责任链模式,bug 无数...
  • 农村扶贫入股分红会计分录
  • 取得不规范发票的处理
  • 学电脑哪个网站比较好
  • 成本核算需要哪些单据
  • sql2008混合模式
  • 小规模企业免税收入会计分录
  • 税金及附加包括哪些科目
  • 对公账户转私人账户
  • 计入资本公积的固定资产转出
  • 银行承兑汇票由谁出票
  • 企业给员工单独交社保
  • 公司向个人借款分录
  • 增值税发票过期一年未认证怎么办
  • 股东转公户的钱叫什么
  • 民非企业怎么给员工交五险
  • 残疾基金缴纳标准
  • 记账凭证的分类及每类的具体含义是什么
  • 其他货币资金存出投资款借方增加还是减少
  • 2021年会计做账报税详细流程
  • sql中的存储过程是干嘛用的
  • 自增字段必须是主键吗
  • sql语句大全实例教程
  • mysqldump导出csv文件
  • ubuntu 16.04.6安装教程
  • unix操作系统有哪些主要特色
  • rcapi.exe - rcapi是什么进程 有什么用
  • win8在哪里看安装的所有程序
  • linux卡屏
  • windows7 无线服务
  • 创建nodejs 基于express项目
  • python介绍的主要内容
  • Ubuntu 16.04 LTS中源码安装Python 3.6.0的方法教程
  • javascript文字特效
  • 一个android项目一般包含哪些目录?各有什么用途?
  • python快速排序最简单写法
  • 机票的抵扣率是多少
  • 广东电子税务系统社保1号都能申报吗
  • 浙江通用电子发票查不到
  • 跨年的增值税专用发票怎么冲红或者是作废
  • 地税发票查询官网查询
  • 教师票优惠需要交税吗
  • 广西怎么查社保记录
  • 增值税综合税率是什么意思啊造价
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设