位置: 编程技术 - 正文

Python 登录网站详解及实例(python登录网站爬取数据)

编辑:rootadmin

推荐整理分享Python 登录网站详解及实例(python登录网站爬取数据),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python登录网站 爬虫,python登录网站 爬虫,python登录网站自动下载文件,python登录网站爬取数据,python登录网站后发送post请求,python登录网站 爬虫,python登录网站自动下载文件,python登录网站执行动作,内容如对您有帮助,希望把文章链接给更多的朋友!

Python 登录网站详解及实例

对于大部分论坛,我们想要抓取其中的帖子分析,首先需要登录,否则无法查看。

  这是因为 HTTP 协议是一个无状态(Stateless)的协议,服务器如何知道当前请求连接的用户是否已经登录了呢?有两种方式:

在URI 中显式地使用 Session ID; 利用 Cookie,大概过程是登录一个网站后会在本地保留一个 Cookie,当继续浏览这个网站的时候,浏览器会把 Cookie 连同地址请求一起发送过去。

  Python 提供了相当丰富的模块,所以对于这种网络操作只要几句话就可以完成。我以登录 QZZN 论坛为例,事实上下面的程序几乎所有的 PHPWind 类型的论坛都是适用的。

Python 登录网站详解及实例(python登录网站爬取数据)

 一些注释:

urllib2 显然是比 urllib 高级一点的模块,里面包括了如何使用 Cookies。 在 urllib2 中,每个客户端可以用一个 opener 来抽象,每个 opener 又可以增加多个 handler 来增强其功能。 在构造 opener 时指定了 HTTPCookieProcessor 做为 handler,因此这个 handler 支持 Cookie。 使用 isntall_opener 后,调用 urlopen 时会使用这个 opener。 如果不需要保存 Cookie,cj 这个参数可以省略。 user_data 存放的就是登录所需要的信息,在登录论坛的时候把这个信息传递过去就行了。 urlencode 功能是把字典 user_data 编码成"&#;pwuser=username&pwpwd=password"的形式,这样做是为了使程序易读一些。

  最后一个问题是,pwuser、pwpwd 这类的名字是从哪儿来的,这就要分析需要登录的网页了。我们知道,一般的登录界面都是一个表单,节选如下:

  从这里可以看出,我们需要输入的用户名密码对应的就是 pwuser 和 pwpwd,而 step 对应的则是登录(这个是尝试出来的)。

  注意到,这个论坛表单采用的是 post 方式,如果是 get 方式则本文的方法就需要变动一下,不能直接 open,而是应该首先 Request,然后再 open。更详细的请看手册...

感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!

python访问抓取网页常用命令总结 python访问抓取网页常用命令简单的抓取网页:importurllib.requesturl="

python实现解数独程序代码 偶然发现linux系统附带的一个数独游戏,打开玩了几把。无奈是个数独菜鸟,以前没玩过,根本就走不出几步就一团浆糊了。于是就打算借助计算机的强

python编程实现希尔排序 观察一下插入排序:其实不难发现她有个缺点:如果当数据是5,4,3,2,1的时候,此时我们将无序块中的记录插入到有序块时,估计俺们要崩盘,每次插入

标签: python登录网站爬取数据

本文链接地址:https://www.jiuchutong.com/biancheng/375503.html 转载请保留说明!

上一篇:python实现FTP服务器服务的方法(python ftp storbinary)

下一篇:python访问抓取网页常用命令总结(python抓取网络数据)

  • 城建附加的计税依据
  • 材料采购成本是主营业务成本吗
  • 所得税费用怎么算分录
  • 个人所得税抵扣项目有哪些及金额
  • 房租租赁房产税由哪方缴纳
  • 进项税额可以不转出吗
  • 税费四舍五入的怎么做帐
  • 出口退税发票必须是专票吗
  • 外地施工如何找工人
  • 固定资产改造超过原值多少需要转固
  • 无偿划拨资产的入账价值
  • 个人提供技术服务费开票税率
  • 农产品流通环节有哪些
  • 增值税纳税处理
  • 政府补助应计入
  • 仓库物料入库
  • 递延收益为什么要摊销
  • 车辆保险赔款怎么入账
  • 月初发票认证能抵扣吗
  • 企业所得税为什么那么高
  • 房屋租赁费发票可以抵扣吗
  • 代账公司收取服务费能开增值税票吗?
  • 企业房产税如何计算缴纳
  • 小型微利企业所得税优惠政策2023
  • 小规模季报利润表本月金额和本年累计金额
  • 金税盘开红字发票
  • 无发票的支出如何入账
  • 保税区开出的专票可以抵扣吗
  • 赊销商品应收款
  • win10蓝屏错误怎么办
  • thinkphp 3.2.3 getshell
  • linux如何删除lv
  • 对公账户转私人账户有限额吗
  • 怎么租一个月
  • php imagestring
  • 前端大屏常用的输入法
  • Calanques de Piana岩层上的一个心形洞,法国科西嘉岛 (© joningall/Getty Images)
  • 转让股权后公司资产
  • 国有企业收到财政补助如何做账
  • 债务重组利得计入其他收益还是营业外收入
  • php实现当前页面的快捷键
  • 固定资产改造更新
  • 工业企业总产值怎么算
  • Python数学建模三剑客
  • 发票没拿回来可以报销吗
  • vscode yaml插件
  • window10解压文件
  • 补缴印花税分录
  • 福利用品可以抵增值税吗
  • mysql skip ssl
  • 处置固定资产净收益属于利得吗
  • 出口退税企业退税流程
  • 财务分析与财务管理的共同点
  • 原始股卖出需要缴税吗
  • 钱汇错了报警有用吗
  • 长期股权投资成本法会计处理
  • 银行存款日记账模板
  • mysql 临时表
  • linux wk
  • 特俗字符
  • win7中文显示问号
  • win1020h2正式版
  • icg是什么文件
  • win7破解版和正版的区别
  • centos安装编译环境
  • 如何使用u盘安装linux
  • linux系统的服务器,重启之后运算速度变慢
  • 如何解决win10系统开机一直转圈圈的问题
  • 怎么从win8装回win7
  • Unity 相关经典博客资源总结
  • javascript怎么用
  • asp.net 4.8
  • python静态函数
  • 用jquery实现图片轮播
  • js特殊字符有哪些
  • 税务举报偷税漏税电话
  • 电子税务局更改密码怎么改
  • sp海淘3档到国内什么快递
  • 开票有什么好处吗
  • 广东省地方税务局发票在线应用系统
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设