位置: 编程技术 - 正文

php curl抓取网页的介绍和推广及使用CURL抓取淘宝页面集成方法(php抓取网页指定内容)

编辑:rootadmin

推荐整理分享php curl抓取网页的介绍和推广及使用CURL抓取淘宝页面集成方法(php抓取网页指定内容),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:php如何获取网页内容,php curl获取header,php如何获取网页内容,php登录网站抓取内容,php获取网站html代码,php获取一个网页的内容,php抓取网页指定内容,php登录网站抓取内容,内容如对您有帮助,希望把文章链接给更多的朋友!

php的curl可以用来实现抓取网页,分析网页数据用, 简洁易用, 这里介绍其函数等就不详细描述, 放上代码看看:

只保留了其中几个主要的函数。 实现模拟登陆, 其中可能涉及到session捕获, 然后前后页面涉及参数提供形式。

  libcurl主要功能就是用不同的协议连接和沟通不同的服务器~也就是相当封装了的sock

  PHP 支持libcurl(允许你用不同的协议连接和沟通不同的服务器)。, libcurl当前支持http, https, ftp, gopher, telnet, dict, file, 和ldap 协议。libcurl同样支持HTTPS证书授权,HTTP POST, HTTP PUT, FTP 上传(当然你也可以使用PHP的ftp扩展), HTTP基本表单上传,代理,cookies,和用户认证。

  为了使用CURL函数你需要安装CURL包。PHP 需要你使用CURL 7.0.2-beta或更高版。如果CURL的版本低于7.0.2-beta,PHP将不工作。

  要使用PHP的CURL支持,你必须用带有--with-curl[=DIR]参数重新编译PHP(DIR是包含库和头文件的目录)。

  这些函数是在PHP 4.0.2中新增得。

  一旦你编译了带有CURL支持的PHP,你可以使用curl函数。基本思路是:你使用curl_init()函数初始化 CURL会话,而后你可以设置你的所有选项,通过curl_exec()函数执行,最后你可以作用curl_close()函数来结束你的会话。以下是一个例子:是把PHP的主页取回放到一个文件中。

  例 1. 使用PHP的CURL模块取回PHP主页

  目录列表

  curl_init — 初始化一个CURL会话

  curl_setopt — 为CURL调用设置一个选项

  curl_exec — 执行一个CURL会话

  curl_close — 关闭一个CURL会话

  curl_version — 返回当前CURL版本

  * curl扩展的安装

  PHP已经内置有php_curl.dll,在ext目录下,此DLL用于支持SSL和zlib.

  在php.ini中找到有extension=php_curl.dll, 去掉前面的注释.

  设置extension_dir=你的php的ext目录(例如c:/php/ext)

  把ext目录下的libeay.dll, ssleay.dll, php5ts.dll, php_curl.dll 都拷贝到system目录下,重启apache即可。

  curl_init

  curl_init -- 初始化一个CURL会话

  描述

  curl_init()函数将初始化一个新的会话,返回一个CURL句柄供curl_setopt(), curl_exec(),和 curl_close() 函数使用。如果可选参数被提供,那么CURLOPT_URL选项将被设置成这个参数的值。你可以使用curl_setopt()函数人工设置。

  例 1. 初始化一个新的CURL会话,且取回一个网页

  参见:curl_close(), curl_setopt()

  * curl_setopt

  curl_setopt -- 为CURL调用设置一个选项

  描述 

  curl_setopt()函数将为一个CURL会话设置选项。option参数是你想要的设置,value是这个选项给定的值。

  下列选项的值将被作为长整形使用(在option参数中指定):

  CURLOPT_INFILESIZE: 当你上传一个文件到远程站点,这个选项告诉PHP你上传文件的大小。

  CURLOPT_VERBOSE: 如果你想CURL报告每一件意外的事情,设置这个选项为一个非零值。

  CURLOPT_HEADER: 如果你想把一个头包含在输出中,设置这个选项为一个非零值。

  CURLOPT_NOPROGRESS: 如果你不会PHP为CURL传输显示一个进程条,设置这个选项为一个非零值。

  注意:PHP自动设置这个选项为非零值,你应该仅仅为了调试的目的来改变这个选项。

  CURLOPT_NOBODY: 如果你不想在输出中包含body部分,设置这个选项为一个非零值。

  CURLOPT_FAILONERROR: 如果你想让PHP在发生错误(HTTP代码返回大于等于)时,不显示,设置这个选项为一人非零值。默认行为是返回一个正常页,忽略代码。

  CURLOPT_UPLOAD: 如果你想让PHP为上传做准备,设置这个选项为一个非零值。

  CURLOPT_POST: 如果你想PHP去做一个正规的HTTP POST,设置这个选项为一个非零值。这个POST是普通的 application/x-www-from-urlencoded 类型,多数被HTML表单使用。

  CURLOPT_FTPLISTONLY: 设置这个选项为非零值,PHP将列出FTP的目录名列表。

  CURLOPT_FTPAPPEND: 设置这个选项为一个非零值,PHP将应用远程文件代替覆盖它。

  CURLOPT_NETRC: 设置这个选项为一个非零值,PHP将在你的 ~./netrc 文件中查找你要建立连接的远程站点的用户名及密码。

  CURLOPT_FOLLOWLOCATION: 设置这个选项为一个非零值(象 "Location: ")的头,服务器会把它当做HTTP头的一部分发送(注意这是递归的,PHP将发送形如 "Location: "的头)。

php curl抓取网页的介绍和推广及使用CURL抓取淘宝页面集成方法(php抓取网页指定内容)

  CURLOPT_PUT: 设置这个选项为一个非零值去用HTTP上传一个文件。要上传这个文件必须设置CURLOPT_INFILE和CURLOPT_INFILESIZE选项.

  CURLOPT_MUTE: 设置这个选项为一个非零值,PHP对于CURL函数将完全沉默。

  CURLOPT_TIMEOUT: 设置一个长整形数,作为最大延续多少秒。

  CURLOPT_LOW_SPEED_LIMIT: 设置一个长整形数,控制传送多少字节。

  CURLOPT_LOW_SPEED_TIME: 设置一个长整形数,控制多少秒传送CURLOPT_LOW_SPEED_LIMIT规定的字节数。

  CURLOPT_RESUME_FROM: 传递一个包含字节偏移地址的长整形参数,(你想转移到的开始表单)。

  CURLOPT_SSLVERSION: 传递一个包含SSL版本的长参数。默认PHP将被它自己努力的确定,在更多的安全中你必须手工设置。

  CURLOPT_TIMECONDITION: 传递一个长参数,指定怎么处理CURLOPT_TIMEVALUE参数。你可以设置这个参数为TIMECOND_IFMODSINCE 或 TIMECOND_ISUNMODSINCE。这仅用于HTTP。

  CURLOPT_TIMEVALUE: 传递一个从-1-1开始到现在的秒数。这个时间将被CURLOPT_TIMEVALUE选项作为指定值使用,或被默认TIMECOND_IFMODSINCE使用。

  下列选项的值将被作为字符串:

  CURLOPT_URL: 这是你想用PHP取回的URL地址。你也可以在用curl_init()函数初始化时设置这个选项。

  CURLOPT_USERPWD: 传递一个形如[username]:[password]风格的字符串,作用PHP去连接。

  CURLOPT_PROXYUSERPWD: 传递一个形如[username]:[password] 格式的字符串去连接HTTP代理。

  CURLOPT_RANGE: 传递一个你想指定的范围。它应该是"X-Y"格式,X或Y是被除外的。HTTP传送同样支持几个间隔,用逗句来分隔(X-Y,N-M)。

  CURLOPT_POSTFIELDS: 传递一个作为HTTP “POST”操作的所有数据的字符串。

  CURLOPT_REFERER: 在HTTP请求中包含一个"referer"头的字符串。

  CURLOPT_USERAGENT: 在HTTP请求中包含一个"user-agent"头的字符串。

  CURLOPT_FTPPORT: 传递一个包含被ftp "POST"指令使用的IP地址。这个POST指令告诉远程服务器去连接我们指定的IP地址。 这个字符串可以是一个IP地址,一个主机名,一个网络界面名(在UNIX下),或是'-'(使用系统默认IP地址)。

  CURLOPT_COOKIE: 传递一个包含HTTP cookie的头连接。

  CURLOPT_SSLCERT: 传递一个包含PEM格式证书的字符串。

  CURLOPT_SSLCERTPASSWD: 传递一个包含使用CURLOPT_SSLCERT证书必需的密码。

  CURLOPT_COOKIEFILE: 传递一个包含cookie数据的文件的名字的字符串。这个cookie文件可以是Netscape格式,或是堆存在文件中的HTTP风格的头。

  CURLOPT_CUSTOMREQUEST: 当进行HTTP请求时,传递一个字符被GET或HEAD使用。为进行DELETE或其它操作是有益的,更Pass a string to be used instead of GET or HEAD when doing an HTTP request. This is useful for doing or another, more obscure, HTTP request.

  注意: 在确认你的服务器支持命令先不要去这样做。

  下列的选项要求一个文件描述(通过使用fopen()函数获得):

  CURLOPT_FILE: 这个文件将是你放置传送的输出文件,默认是STDOUT.

  CURLOPT_INFILE: 这个文件是你传送过来的输入文件。

  CURLOPT_WRITEHEADER: 这个文件写有你输出的头部分。

  CURLOPT_STDERR: 这个文件写有错误而不是stderr。

  * curl_exec

  curl_exec -- 执行一个CURL会话

  描述

  bool curl_exec (int ch)

  在你初始化一个CURL会话,及为这个会话设置了所有的选项后,这个函数将被调用。它的目的仅仅是执行预先确定的CURL会话(通过给定的ch参数)。

  * curl_close

  curl_close -- 关闭一个CURL会话

  描述

  void curl_close (int ch)

  这个函数关闭一个CURL会话,并且释放所有的资源。CURL句柄(ch参数)也被删除。

  * curl_version

  curl_version -- 返回当前CURL版本

  描述

  string curl_version (void)

curl_version()函数返回一个包含CURL版本的字符串。

使用CURL抓取淘宝页面集成方法

代码如下:

PHP CURL或file_get_contents获取网页标题的代码及两者效率的稳定性问题 PHPCURL与file_get_contents函数都可以获取远程服务器上的文件保存到本地,但在性能上面两者完全不在同一个级别,下面我先来介绍PHPCURL或file_get_contents函

PHP 微信支付类 demo 一切尽在代码中,代码附有注释,欢迎大家参考。phpclassWxpayService{protected$mchid;protected$appid;protected$key;publicfunction__construct($mchid,$appid,$key){$this-mchid=$mchid;//

基于php实现七牛抓取远程图片 由于公司网站之前的用户头像都是存储在自己的服务器上的,后来感觉管理不方便,新增加的用户头像都上传到了七牛,为了方便统一管理,领导说把

标签: php抓取网页指定内容

本文链接地址:https://www.jiuchutong.com/biancheng/276162.html 转载请保留说明!

上一篇:PHP curl模拟登录带验证码的网站(php curl模块)

下一篇:PHP CURL或file_get_contents获取网页标题的代码及两者效率的稳定性问题

  • 个税年度汇算如何补税
  • 销项税额和进项税额发票怎么区别
  • 什么是所得税税负
  • 月收入10万以下免税哪些企业适用
  • 合作社收到政府补助款怎么做分录呢
  • 如何判断固定资产资本化还是费用化
  • 建筑综合税率包含企业所得税吗
  • 会计凭证装订放哪些报表
  • 个人如何开现金账户
  • 员工报销款可以公转私吗
  • 小规模季度超过45万了怎么缴纳
  • 小型微利企业如何计算所得税
  • 房地产公司转让土地
  • 废料账务处理
  • 赠品转做商品销售的账务处理如何做?
  • 某企业月末由仓库转来发料凭证汇总表
  • 原材料入库单运费要怎么计入?
  • 代扣代缴的增值税可以作为进项税抵扣吗
  • 钢结构制作安装合同
  • 个体工商户税种认定的税目可以改吗
  • 汇算清缴后如何进行调帐处理
  • 建筑企业结转成本依据准则
  • 如何在Windows 11上卸载更新
  • 维修进水的笔记怎么写
  • 微软正式宣布收购动视暴雪
  • 确认预计负债的必要条件
  • 债券到期收回本息的会计分录
  • 固定资产折旧计算方法
  • 劳保用品做账分录
  • 其他业务成本属于成本类吗
  • 如何在Excel中计算平均值
  • 大理石横切面
  • 投标保证金怎么退还流程
  • 材料暂估入库如何处理
  • 文件上传漏洞及解决方案
  • 二手房交易需缴哪些税
  • Waterfalls at the source of the Mundo River, Sierra de Riopar, Albacete, Spain (© Westend61/Getty Images)
  • 个人从事生产经营
  • 未按规定采取预防措施,导致发生严重突发事件的
  • Aerial view of Chapel Bridge over the river Reuss in Lucerne, Switzerland (© Neleman Initiative/Gallery Stock)
  • php模糊查询txt文本
  • 总结的拼音
  • htmlcss导航栏网页
  • 固定资产没有价值怎么入账
  • 在建工程业务核算
  • 管家婆中已经过账的进货单怎么删除?
  • 什么是财务报表分析,方法有哪些
  • 以前年度是指哪一年
  • 计提折旧是哪个月的
  • 如何申请增值税留抵退税
  • 公司清算后能不能转让
  • 怎么理解核销
  • 预付房租收到发票怎么写摘要
  • 补缴企业所得税
  • 年利率怎么算计算器
  • 会计账簿的设计要与会计报表相衔接 ()X
  • sql高级写法
  • windows server 2008 r2最大支持内存
  • 硬盘安装fedora35
  • 虚拟机ubuntu怎么用
  • proflwiz.exe - proflwiz是什么进程 有什么用
  • 苹果电脑bim
  • linux如何加载动态库
  • win7桌面图标全部变成了e而且打不开
  • win7如何安装kb3033929补丁
  • cocos2dx游戏案例
  • A Type-Safe Event System for Unity3D
  • GLSL Tessellation Shader的编程入门介绍
  • webpack 主题切换
  • Javascript之Number对象介绍
  • jquery直接执行
  • node链接数据库
  • perl中use strict
  • Apache服务器的安全缺陷
  • jquery中validate
  • js实现组件功能
  • Button.setOnClickListener(OnClickListener l) 原理
  • listview报错
  • 网上交购置税怎么拿完税证明
  • 税收科研工作思路
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设