位置: 编程技术 - 正文

浅谈Python爬取网页的编码处理(python3.9爬取网页教程)

编辑:rootadmin

推荐整理分享浅谈Python爬取网页的编码处理(python3.9爬取网页教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:如何利用python爬取网页内容,python爬取网址,python爬取网址,python爬虫爬取网页,用python爬取网站数据,python爬取网址,用python爬取网站数据,利用python爬取简单网页数据步骤,内容如对您有帮助,希望把文章链接给更多的朋友!

背景

中秋的时候,一个朋友给我发了一封邮件,说他在爬链家的时候,发现网页返回的代码都是乱码,让我帮他参谋参谋(中秋加班,真是敬业= =!),其实这个问题我很早就遇到过,之前在爬小说的时候稍微看了一下,不过没当回事,其实这个问题就是对编码的理解不到位导致的。

问题

很普通的一个爬虫代码,代码是这样的:

目的其实很简单,就是爬一下链家的内容,但是这样执行之后,返回的结果,所有涉及到中文的内容,全部会变成乱码,比如这样

这样的数据拿来可以说毫无作用。

问题分析

这里的问题很明显了,就是文字的编码不正确,导致了乱码。

查看网页的编码

从爬取的目标网页的头来看,网页是用utf-8来编码的。

所以,最终的编码,我们肯定也要用utf-8来处理,也就是说,最终的文本处理,要用utf-8来解码,也就是:decode('utf-8')

文本的编码解码

Python的编码解码的过程是这样的,源文件 ===》 encode(编码方式) ===》decode(解码方式),在很大的程度上,不推荐使用

这种方式来硬处理文字编码。不过在某些时候不影响的情况下,偷偷懒也不是什么大问题,不过比较建议的就是获取源文件之后,使用encode和decode的方式来处理文本。

浅谈Python爬取网页的编码处理(python3.9爬取网页教程)

回到问题

现在问题最大的是源文件的编码方式,我们正常使用requests的时候,它会自动猜源文件的编码方式,然后转码成Unicode的编码,但是,毕竟是程序,是有可能猜错的,所以如果猜错了,我们就需要手工来指定编码方式。官方文档的描述如下:

When you make a request, Requests makes educated guesses about the encoding of the response based on the HTTP headers. The text encoding guessed by Requests is used when you access r.text. You can find out what encoding Requests is using, and change it, using the r.encoding property.

所以我们需要查看requests返回的编码方式到底是什么?

打印的结果如下:

ISO--1

也就是说,源文件使用的是ISO--1来编码。百度一下ISO--1,结果如下:

ISO-1,通常叫做Latin-1。Latin-1包括了书写所有西方欧洲语言不可缺少的附加字符。

问题解决

发现了这个东东,问题就很好解决了,只要指定一下编码,就能正确的打出中文了。代码如下:

打印的结果就很明显,中文都正确的显示出来了。

另一种方式是在源文件上做解码和编码,代码如下:

另:ISO--1也叫做latin1,使用latin1做解码结果也是正常的。

关于字符的编码,很多东西可以说,想了解的朋友可以参考以下大神的资料。

&#;《The Absolute Minimum Every Software Developer Absolutely, Positively Must Know About Unicode and Character Sets (No Excuses!)》

以上这篇浅谈Python爬取网页的编码处理就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持积木网。

基于Python的接口测试框架实例 背景最近公司在做消息推送,那么自然就会产生很多接口,测试的过程中需要调用接口,我就突然觉得是不是可以自己写一个测试框架?说干就干,由

Python+MongoDB自增键值的简单实现 背景最近在写一个测试工具箱,里面有一个bug记录系统,因为后台我是用Django和MongoDB来实现的,就遇到了一个问题,要如何实现一个自增的字段。传统

django1.8使用表单上传文件的实现方法 Python下有许多款不同的Web框架。Django是重量级选手中最有代表性的一位。许多成功的网站和APP都基于Django。Django是一个开放源代码的Web应用框架,由Pytho

标签: python3.9爬取网页教程

本文链接地址:https://www.jiuchutong.com/biancheng/383450.html 转载请保留说明!

上一篇:Django接受前端数据的几种方法总结(django 接收前端的json)

下一篇:基于Python的接口测试框架实例(python接口编写)

  • 运输发票税率是9
  • 假发票是怎么开出来的
  • 金税盘数据迁移失败
  • 劳保用品费用报销表格
  • 简述入伙、退伙的含义与退伙的形式
  • 税控盘抵减增值税需要结转吗
  • 什么叫发票分割单
  • 金税设备中有上税吗
  • 开办费抵扣多少企业所得税
  • 职工薪酬会计准则
  • 临时用工工资税率怎么算
  • 个人房产房租收入怎么算
  • 外币资产汇兑损益计算
  • 淘宝开企业店铺需要什么资料
  • 收到保险公司退款
  • 城建税印花税教育附加税各是多少
  • 其他收益是一级科目还是二级科目
  • 环保税优惠问题
  • 计提坏账准备的科目
  • 平均净资产计算公式是什么意思
  • microsoft edge怎么设置关闭所有网页
  • 支付项目工程款可以借流贷吗
  • 幼儿园会计做账实操
  • 给客户的贴息的会计处理
  • php pdo分页
  • realpopup.exe - realpopup是什么进程
  • linux 定时删除文件
  • Content-Disposition使用方法和注意事项
  • 一般纳税人增值税优惠政策2023
  • react组件如何设置dom
  • 今日除夕吉时
  • 互联网行业成本控制现状
  • 凭证字号怎么写
  • phppdo连接数据库
  • 开具信用证费用由谁承担
  • 建筑业挂靠工程会计与税务处理怎么做?
  • 出口退税进项税额转出怎么申报
  • 暂估入账是什么意思
  • 消费税算不算运费
  • 固定资产处置需要交税吗?
  • 代扣代缴境外增值税怎么申报
  • 清算中的资产损失
  • 企业自查发现以什么为主
  • 持有至到期投资减值准备
  • 注册资本认缴与注册登记实操
  • 改签机票要缴纳多少税
  • 滴滴打车老板起源故事
  • 社保局退回来的社保怎么入账
  • 发票抵扣联要放入凭证里吗
  • 对公受托理财申购怎么写
  • 长期股权投资的成本法和权益法区别
  • 在企业中的应用
  • 公司给公司的工会拨款
  • 劳务分包企业收入怎么算
  • 保洁阿姨工资怎么扣税
  • 运费是属于什么会计科目
  • 增加委托代理人
  • 商品流通企业会计第三版答案倪明辉
  • ubuntu无法正常开机
  • mac cad软件
  • unix系统什么样子
  • win7系统如何卸载流氓软件
  • cygwin在Windows8.1中设置ssh无密码登录
  • 在windows xp
  • centos配ip的方法
  • win7旗舰版系统怎么样
  • chkdsk命令有什么用
  • linux新手教学
  • windows7模块安装程序可以关闭吗
  • win8.1无线
  • win10系统打不开应用程序
  • nodejs模拟浏览器环境
  • unity3d初学者教程视频
  • js点击按钮返回前一个页面
  • css ul显示为表格
  • python字符串处理为年月日
  • 详解杭州亚运会会徽和口号
  • 河东区地税局上班时间
  • 阁楼交取暖费吗合法吗
  • 为什么要进行进气歧管真空度检测
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设