位置: 编程技术 - 正文

用Python编写简单的微博爬虫(用python编写简单程序)

编辑:rootadmin

推荐整理分享用Python编写简单的微博爬虫(用python编写简单程序),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用python编写简单乘法表,用python编写简单计算器,用python编写简单计算器,用python编写简单的六一儿童节祝福,用python编写简单程序,用python编写简单程序要多久,用python编写简单计算机程序,用python编写简单计算机程序,内容如对您有帮助,希望把文章链接给更多的朋友!

先说点题外话,我一开始想使用Sina Weibo API来获取微博内容,但后来发现新浪微博的API限制实在太多,大家感受一下:

只能获取当前授权的用户(就是自己),而且只能返回最新的5条,WTF!所以果断放弃掉这条路,改为『生爬』,因为PC端的微博是Ajax的动态加载,爬取起来有些困难,我果断知难而退,改为对移动端的微博进行爬取,因为移动端的微博可以通过分页爬取的方式来一次性爬取所有微博内容,这样工作就简化了不少。

最后实现的功能:

1、输入要爬取的微博用户的user_id,获得该用户的所有微博2、文字内容保存到以%user_id命名文本文件中,所有高清原图保存在weibo_image文件夹中具体操作:首先我们要获得自己的cookie,这里只说chrome的获取方法。

1、用chrome打开新浪微博移动端2、option+command+i调出开发者工具3、点开Network,将Preserve log选项选中4、输入账号密码,登录新浪微博

5、找到m.weibo.cn->Headers->Cookie,把cookie复制到代码中的#your cookie处

用Python编写简单的微博爬虫(用python编写简单程序)

然后再获取你想爬取的用户的user_id,这个我不用多说啥了吧,点开用户主页,地址栏里面那个号码就是user_id

将python代码保存到weibo_spider.py文件中定位到当前目录下后,命令行执行python weibo_spider.py user_id当然如果你忘记在后面加user_id,执行的时候命令行也会提示你输入

最后执行结束

小问题:在我的测试中,有的时候会出现图片下载失败的问题,具体原因还不是很清楚,可能是网速问题,因为我宿舍的网速实在太不稳定了,当然也有可能是别的问题,所以在程序根目录下面,我还生成了一个userid_imageurls的文本文件,里面存储了爬取的所有图片的下载链接,如果出现大片的图片下载失败,可以将该链接群一股脑导进迅雷等下载工具进行下载。

另外,我的系统是OSX EI Capitan..2,Python的版本是2.7,依赖库用sudo pip install XXXX就可以安装,具体配置问题可以自行stackoverflow,这里就不展开讲了。

下面我就给出实现代码

一个简单的微博爬虫就完成了,希望对大家的学习有所帮助。

使用py2exe在Windows下将Python程序转为exe文件 前提条件:需要安装easy-install模块,这是一个python的模块打包工具。首先下载easy_setup.py的源代码,下载地址:

使用Python来开发Markdown脚本扩展的实例分享 关于Markdown在刚才的导语里提到,Markdown是一种用来写作的轻量级「标记语言」,它用简洁的语法代替排版,而不像一般我们用的字处理软件Word或Pages有

Python多线程爬虫简单示例 python是支持多线程的,主要是通过thread和threading这两个模块来实现的。thread模块是比较底层的模块,threading模块是对thread做了一些包装的,可以更加方

标签: 用python编写简单程序

本文链接地址:https://www.jiuchutong.com/biancheng/383380.html 转载请保留说明!

上一篇:python相似模块用例

下一篇:使用py2exe在Windows下将Python程序转为exe文件(python在windows)

  • 中级报名的报考条件要求
  • 简易计税开的发票可以抵扣吗
  • 开具技术服务费发票需要注意什么
  • 汇算清缴常见问题
  • 合伙企业分配利润需要全体合伙人同意吗
  • 其他应收款账户期初借方余额为35400
  • 企业间资金往来 人员派驻
  • 报关单报关没做收入怎么办
  • 现金抵用券购买怎么用
  • 设备税款
  • 减免税费期末如何结转
  • 员工替公司垫付的费用还没有报销就被开除了
  • 转让股权原值的相关资料
  • 应交城市维护建设税分录怎么做
  • 资产负债表其他流动资产包括什么
  • 营改增后建筑施工税率调整变化
  • 出租车发票日期可以改吗
  • 不能取得进项发票但结转成本,税务说明怎么写
  • 企业所得税固定资产一次性扣除
  • 非汉语是什么意思
  • 建筑业小规模纳税人税率是3%还是5%
  • 迁出注销类别怎么写
  • 投资款需要缴纳增值税吗
  • 光驱弹不出来灯也不亮
  • 收到拆迁补偿款现金流量表在哪里体现
  • 公司免税是指免的什么税
  • 委外加工的加工费的会计处理
  • windows11怎么快速截屏
  • 电脑桌面图标如何更改自定义图片
  • 登陆qq网页版手机会有提示吗
  • 来料加工方式中,料件和加工后
  • PHP:ftp_nb_put()的用法_FTP函数
  • 原材料的运费计入什么科目
  • 工程结算和决算一样吗
  • 损益类科目细分
  • php静态函数
  • 赞助收入税务处理
  • 零售价是含税价还是不含税价
  • 动态模型图如何制作
  • ChatDoctor本地部署应用的实战方案
  • dns域名解析两种方式
  • 什么是对公账户和个人账户
  • 高价值配件用入固定资产吗
  • 小企业短期借款科目的贷方登记
  • c语言strncat函数用法
  • 应付职工薪酬期末余额是什么意思
  • 受托代销商品的手续费计入什么科目
  • 企业股权投资收益交增值税吗
  • 公司个人借款如何下账
  • 申报错误要罚款吗
  • sql使用cast进行数据类型转换示例
  • 应交税费账户的用途和结构是怎样的
  • 买一赠一涉及企业所得税的处理
  • 企业所得税汇算清缴操作流程
  • 汇款汇给别人了应该怎么办
  • 资产总额的季度平均值
  • 房地产开发公司注册资金要求
  • 改签机票要缴纳多少税
  • 小规模纳税人开专票税率是1%还是3%
  • 净资产越来越少会有什么风险
  • 关税的计税方式一般可以分为
  • 应付职工薪酬账户贷方登记的是
  • sql2005win10安装教程
  • deepin 2014系统下安装mysql数据库的方法步骤
  • mysql免安装版怎么使用
  • win10预览版21277
  • csinject.exe是什么程序的进程 csinject进程是安全的吗
  • winxp开机黑屏只有光标
  • 电脑关机没反应怎么办出现一个对话框
  • win8microsoft账户
  • win10系统虚拟内存
  • linux判断程序是否运行
  • jquery的使用步骤
  • js阻止冒泡和默认行为
  • android 实例教程
  • js图片轮播和点击切换
  • 增值税申报表如何导出
  • 个人所得税税单去哪里打印
  • 小学语文教学的核心素养
  • 保险机构如何代收车船税
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设