位置: 编程技术 - 正文

python爬虫实战之爬取京东商城实例教程(python爬虫全套教程)

编辑:rootadmin

推荐整理分享python爬虫实战之爬取京东商城实例教程(python爬虫全套教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python爬虫例,python,爬虫,python 爬虫技术,python爬虫详解,python爬虫详解,python 爬虫,python爬虫100例,pythone爬虫,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

本文主要介绍的是利用python爬取京东商城的方法,文中介绍的非常详细,下面话不多说了,来看看详细的介绍吧。

主要工具

scrapy BeautifulSoup requests

分析步骤

1、打开京东首页,输入裤子将会看到页面跳转到了这里,这就是我们要分析的起点

2、我们可以看到这个页面并不是完全的,当我们往下拉的时候将会看到图片在不停的加载,这就是ajax,但是当我们下拉到底的时候就会看到整个页面加载了条裤子的信息,我们打开chrome的调试工具,查找页面元素时可以看到每条裤子的信息都在<li class='gl-item'></li>这个标签中,如下图:

3、接着我们打开网页源码就会发现其实网页源码只有前条的数据,后面条的数据找不到,因此这里就会想到ajax,一种异步加载的方式,于是我们就要开始抓包了,我们打开chrome按F,点击上面的NetWork,然后点击XHR,这个比较容易好找,下面开始抓包,如下图:

python爬虫实战之爬取京东商城实例教程(python爬虫全套教程)

4、从上面可以找到请求的url,发现有很长的一大段,我们试着去掉一些看看可不可以打开,简化之后的url= install requests,代码如下:

2、根据上面的分析可以知道,第二步就是得到异步加载的url中的参数show_items,就是li标签中的data-pid,代码如下:

3、下面就是获取前张图片的url了,也就是主网页上的图片,其中一个问题是img标签的属性并不是一样的,也就是源码中的img中不都是src属性,一开始已经加载出来的图片就是src属性,但是没有加载出来的图片是data-lazy-img,因此在解析页面的时候要加上讨论。

代码如下:

前三十张图片找到了,现在开始找后三十张图片了,当然是要请求那个异步加载的url,前面已经把需要的参数给找到了,下面就好办了,直接贴代码:

4、通过上面就可以爬取了,但是还是要考虑速度的问题,这里我用了多线程,直接每一页面开启一个线程,速度还是可以的,感觉这个速度还是可以的,几分钟解决问题,总共爬取了个网页,这里的存储方式是mysql数据库存储的,要用发哦MySQLdb这个库,详情自己百度。

当然也可以用mogodb,但是还没有学呢,想要的源码的朋友请看下面:

一、GitHub源码

二、本地下载

拓展总结

写到这里可以看到搜索首页的网址中keyword和wq都是你输入的词,如果你想要爬取更多的信息,可以将这两个词改成你想要搜索的词即可,直接将汉字写上,在请求的时候会自动帮你编码的,我也试过了,可以抓取源码的,如果你想要不断的抓取,可以将要搜索的词写上文件里,然后从文件中读取就可以了。以上只是一个普通的爬虫,并没有用到什么框架,接下来将会写scrapy框架爬取的,请继续关注积木网哦!!!

好了,

标签: python爬虫全套教程

本文链接地址:https://www.jiuchutong.com/biancheng/375556.html 转载请保留说明!

上一篇:python中urllib.unquote乱码的原因与解决方法

下一篇:python爬虫框架scrapy实战之爬取京东商城进阶篇(python爬虫框架怎么画)

  • 增值税明细账用三栏式还是多栏式
  • 建筑业小规模纳税人预缴增值税
  • 基本户如果没有资金往来
  • 研发费用辅助账是什么意思
  • 清卡重用
  • 职工教育经费中其他费用包括
  • 分公司可以独立开银行账户吗
  • 公司只有一个人可以不交社保吗
  • 增值税都有哪些科目
  • 销售使用过未抵扣进项税额的货运汽车
  • 经济合同
  • 投标保证金支付时间
  • 企业所得税申报流程图
  • 上月未抵扣完的进项税本月可以抵扣吗
  • 税务未抄报
  • 注册资本增资印花税减半
  • 关于330技术维护费
  • 包工包料的工程怎么做账
  • 企业收到党建经费 所得税
  • 会计调账必须写说明吗
  • 企业所得税季初人数
  • 金蝶k3迷你版年度结账
  • linux 将一个文件的内容给另一个文件
  • 银行承兑汇票的转让一般通过什么渠道
  • 注册资金印花税税目
  • win10更新kb5006670
  • 苹果手机把旧手机的照片传到新手机
  • 本月印花税下月缴纳需要计提吗
  • 股东以非货币出资办理什么手续
  • 会计分录的表现形式有
  • 租入经营用房屋的改良支出
  • php.ini详解
  • 无形资产的会计处理
  • phpqrcode
  • php是面向过程还是面向对象
  • php如何防止后门
  • 劳务报酬已扣税是否需报个税
  • vue3定义全局变量
  • php怎么定义全局变量
  • 润滑油一般纳税人税率是多少
  • 支付中间人佣金违法吗
  • dedecms下载
  • 关于python序列类型
  • python的np.array
  • 商品流通企业的基本要素
  • 盈余公积企业所得税税率
  • 公司买的微波炉算职工福利费吗
  • 购买旧固定资产入账
  • 公司注销未分配利润如何处理
  • 无票收入是怎么算的
  • 税号指的是什么
  • 残疾人就业保证金上年工资总额是说上一年度么
  • 房地产行业账务处理和主要税种
  • 留底税额怎么入账
  • 销售商品发生的销售退回属于期间费用吗
  • 缴纳以前年度税金怎么做账
  • 收银员长款短款什么意思
  • 无形资产的摊销方法
  • 公司基本户可以取现金吗
  • 固定资产二级明细科目有哪些
  • mac上的home键在哪
  • xp局域网
  • vmware 10虚拟机
  • nvm是啥
  • mac book视频
  • linux安装syslog
  • 你需要windows7sp1才能安装ie11
  • linux系统设置
  • win7访问共享文件夹没有权限访问
  • webpack-loader
  • node-js
  • python算法具有哪五个性质
  • 自动重启服务脚本
  • javascript canvas方法有哪些
  • 小米手机图库图标
  • JavaScript中的变量名不区分大小写
  • jquery设置元素css
  • javascript基础教程pdf
  • 国家税务局四川省电子税务局
  • 税务uk数据怎么导出来
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设