位置: 编程技术 - 正文

浅谈Python爬取网页的编码处理(python3.9爬取网页教程)

编辑:rootadmin

推荐整理分享浅谈Python爬取网页的编码处理(python3.9爬取网页教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:如何利用python爬取网页内容,python爬取网址,python爬取网址,python爬虫爬取网页,用python爬取网站数据,python爬取网址,用python爬取网站数据,利用python爬取简单网页数据步骤,内容如对您有帮助,希望把文章链接给更多的朋友!

背景

中秋的时候,一个朋友给我发了一封邮件,说他在爬链家的时候,发现网页返回的代码都是乱码,让我帮他参谋参谋(中秋加班,真是敬业= =!),其实这个问题我很早就遇到过,之前在爬小说的时候稍微看了一下,不过没当回事,其实这个问题就是对编码的理解不到位导致的。

问题

很普通的一个爬虫代码,代码是这样的:

目的其实很简单,就是爬一下链家的内容,但是这样执行之后,返回的结果,所有涉及到中文的内容,全部会变成乱码,比如这样

这样的数据拿来可以说毫无作用。

问题分析

这里的问题很明显了,就是文字的编码不正确,导致了乱码。

查看网页的编码

从爬取的目标网页的头来看,网页是用utf-8来编码的。

所以,最终的编码,我们肯定也要用utf-8来处理,也就是说,最终的文本处理,要用utf-8来解码,也就是:decode('utf-8')

文本的编码解码

Python的编码解码的过程是这样的,源文件 ===》 encode(编码方式) ===》decode(解码方式),在很大的程度上,不推荐使用

这种方式来硬处理文字编码。不过在某些时候不影响的情况下,偷偷懒也不是什么大问题,不过比较建议的就是获取源文件之后,使用encode和decode的方式来处理文本。

浅谈Python爬取网页的编码处理(python3.9爬取网页教程)

回到问题

现在问题最大的是源文件的编码方式,我们正常使用requests的时候,它会自动猜源文件的编码方式,然后转码成Unicode的编码,但是,毕竟是程序,是有可能猜错的,所以如果猜错了,我们就需要手工来指定编码方式。官方文档的描述如下:

When you make a request, Requests makes educated guesses about the encoding of the response based on the HTTP headers. The text encoding guessed by Requests is used when you access r.text. You can find out what encoding Requests is using, and change it, using the r.encoding property.

所以我们需要查看requests返回的编码方式到底是什么?

打印的结果如下:

ISO--1

也就是说,源文件使用的是ISO--1来编码。百度一下ISO--1,结果如下:

ISO-1,通常叫做Latin-1。Latin-1包括了书写所有西方欧洲语言不可缺少的附加字符。

问题解决

发现了这个东东,问题就很好解决了,只要指定一下编码,就能正确的打出中文了。代码如下:

打印的结果就很明显,中文都正确的显示出来了。

另一种方式是在源文件上做解码和编码,代码如下:

另:ISO--1也叫做latin1,使用latin1做解码结果也是正常的。

关于字符的编码,很多东西可以说,想了解的朋友可以参考以下大神的资料。

&#;《The Absolute Minimum Every Software Developer Absolutely, Positively Must Know About Unicode and Character Sets (No Excuses!)》

以上这篇浅谈Python爬取网页的编码处理就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持积木网。

基于Python的接口测试框架实例 背景最近公司在做消息推送,那么自然就会产生很多接口,测试的过程中需要调用接口,我就突然觉得是不是可以自己写一个测试框架?说干就干,由

Python+MongoDB自增键值的简单实现 背景最近在写一个测试工具箱,里面有一个bug记录系统,因为后台我是用Django和MongoDB来实现的,就遇到了一个问题,要如何实现一个自增的字段。传统

django1.8使用表单上传文件的实现方法 Python下有许多款不同的Web框架。Django是重量级选手中最有代表性的一位。许多成功的网站和APP都基于Django。Django是一个开放源代码的Web应用框架,由Pytho

标签: python3.9爬取网页教程

本文链接地址:https://www.jiuchutong.com/biancheng/383450.html 转载请保留说明!

上一篇:Django接受前端数据的几种方法总结(django 接收前端的json)

下一篇:基于Python的接口测试框架实例(python接口编写)

  • 财务状况说明表财务报表有什么区别
  • 外币借款本金的汇兑差额
  • 企业购买产品
  • 红字发票可以只开金额没有数量吗
  • 分公司没有业务季报怎么处理
  • 借应交税费销项税额贷未交增值税
  • 事业支出中的其他支出
  • 指定会计科目是
  • 上个月没有结账可以做下个月的账吗
  • 典当行借贷属于民间借贷吗
  • 医院收到卫生局补助会计分录怎么写
  • 营改增后企业出售使用过的旧车
  • 建筑工程项目的全生命周期包括
  • 开票系统维护费计入什么科目
  • 哪些费用应该计税
  • 电子发票开错了怎么解决?
  • 开发票零税率和免税是一样的意思吗
  • 增值税进项税额在借方还是贷方
  • 减免税到什么时候
  • 少数股东损益借方增加还是贷方增加
  • 开给客户的发票对方已认证
  • 货物和劳务
  • 代收代缴消费税要交城建税吗?
  • 2019年出租车
  • 个体工商户核定征收怎么报税
  • 空调安装费计入什么科目
  • mac如何重装系统win10
  • 转账和电汇哪个便宜
  • 中秋节给员工购物文案
  • 长期病假解除劳动合同怎么赔偿
  • 股权换股权会计分录
  • 圆顶山遗址
  • 企业向个人借款是否合法
  • 斯诺多尼亚山
  • 跨年度广告费需不需要摊销
  • Chrome谷歌浏览器网页
  • 一文讲清资产负债表中各个项目的来龙去脉
  • 提取备用金记账凭证图片
  • css如何实现文字循环滚动左到右,再从右到左衔接循环
  • ajax和axios区别
  • 应收票据应付票据合并抵消吗
  • 存货非正常损失可以所得税前扣除吗
  • mongodb 随机获取一条数据
  • 成本核算的意义是什么
  • 其他资本公积可以冲减吗
  • 工会筹备金和工会经费滞纳金计算一样吗
  • 进口货物如何支付外汇
  • 个人所得税分摊方式怎么填
  • 公司注销前的资产负债
  • 应收账款核算流程
  • 软件开发并销售产品
  • 委托代理出口如何缴纳增值税
  • 个体工商户的个税起征点
  • 本年利润为
  • 企业如何运用内部招募
  • 邮寄发票的快递费走什么科目
  • 新公司期初余额怎么算
  • 企业内在
  • 融资租入固定资产的入账价值
  • sql server 性能调优
  • WINDOWS操作系统内置的GUEST
  • airdrop怎么用?
  • windows7安装后正常使用的安装方法
  • win7怎么设置麦克风权限
  • win8.1设备管理器设置步骤
  • mac的itunes怎么用
  • svchos1.exe - svchos1是什么教程 有什么作用
  • 好用linux
  • win10 无线热点
  • win10添加功能在哪
  • ubuntu安装指南
  • js中的隐式类型转换
  • python里的lambda怎么用
  • javascript如何定义函数
  • Javascript字符串奇数位替换
  • jquery知识点总结
  • python中lambda怎么用
  • 四川国家税务局官网
  • 水利建设基金的税率
  • 土地流转需要什么材料
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设