设为首页 收藏本站
查看: 969|回复: 0

[经验分享] php中curl的详细解说

[复制链接]
发表于 2017-12-29 19:41:35 | 显示全部楼层 |阅读模式
转载自http://blog.csdn.net/yanhui_wei/article/details/21530811
分类:【php深入研究】

  这几天在帮一些同学处理问题的时候,突然发现这些同学是使用file_get_contents()函数来采集页面内容的,貌似都没有curl的概念亦或是对这种工具特别不敏感,
  本文我来给大家详细介绍下cURL的简单的使用方法,下文我将会给大家详细介绍cURL的高级应用,
  好,废话不多说,我们先来认识下什么是cURL,可能还有很多同学没有听说过这个工具,我先来给大家简单介绍下什么是cURL:
  cURL可以使用URL的语法模拟浏览器来传输数据,
  因为它是模拟浏览器,因此它同样支持多种协议,
  FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE 以及 LDAP等协议都可以很好的支持,包括一些:
  HTTPS认证,HTTP POST方法,HTTP PUT方法,FTP上传,keyberos认证,HTTP上传,代理服务器,cookies,用户名/密码认证,
  下载文件断点续传,上传文件断点续传,http代理服务器管道,甚至它还支持IPv6,scoket5代理服务器,通过http代理服务器上传文件
  到FTP服务器等等。
  这就是我们为什么要使用cURL的原因!
  使用cURL完成简单的请求主要分为以下四步:
  1.初始化,创建一个新cURL资源
  2.设置URL和相应的选项
  3.抓取URL并把它传递给浏览器
  4.关闭cURL资源,并且释放系统资源
  我们来采集一个页面,通常情况下,我们会使用file_get_contents()函数来获取:
  像这样:

  • <?php
  • $str = file_get_contents('http://bbs.lampbrother.net');
  • //或者是:
  • $str = file("http://bbs.lampbrother.net");
  • //或者是:
  • readfile("http://bbs.lampbrother.net");
  • ?>
  这样我们会发现,我们没有办法有效地进行错误处理,更重要的是我们没有办法完成一些高难度的任务:
  如:处理cookies,验证,表单提交,文件上传等等。
  好,现在我们来用代码完成上述cURL的四步:

  • <?php
  • //1.初始化,创建一个新cURL资源
  • $ch = curl_init();

  • //2.设置URL和相应的选项
  • curl_setopt($ch, CURLOPT_URL, "http://www.lampbrothr.net/");
  • curl_setopt($ch, CURLOPT_HEADER, 0);

  • //3.抓取URL并把它传递给浏览器
  • curl_exec($ch);

  • //4.关闭cURL资源,并且释放系统资源
  • curl_close($ch);
  • ?>
  上述四步中,其中第二步最为关键,可以设置一些高级选项:
  例如上例中的CURLOPT_URL和CURLOPT_HEADER,分别代表“需要获取的URL地址”和“启用时会将头文件的信息作为数据流输出”,这些只是冰山一角,我们还可以设置很多选项:
  选项
  可选value
  备注
  CURLOPT_AUTOREFERER
  当根据Location:重定向时,自动设置header中的Referer:信息。
  CURLOPT_BINARYTRANSFER
  在启用CURLOPT_RETURNTRANSFER的时候,返回原生的(Raw)输出。
  CURLOPT_COOKIESESSION
  启用时curl会仅仅传递一个session cookie,忽略其他的cookie,默认状况下cURL会将所有的cookie返回给服务端。session cookie是指那些用来判断服务器端的session是否有效而存在的cookie。
  CURLOPT_CRLF
  启用时将Unix的换行符转换成回车换行符。
  CURLOPT_DNS_USE_GLOBAL_CACHE
  启用时会启用一个全局的DNS缓存,此项为线程安全的,并且默认启用。
  CURLOPT_FAILONERROR
  显示HTTP状态码,默认行为是忽略编号小于等于400的HTTP信息。
  CURLOPT_FILETIME
  启用时会尝试修改远程文档中的信息。结果信息会通过curl_getinfo()函数的CURLINFO_FILETIME选项返回。 curl_getinfo().
  CURLOPT_FOLLOWLOCATION
  启用时会将服务器服务器返回的"Location: "放在header中递归的返回给服务器,使用CURLOPT_MAXREDIRS可以限定递归返回的数量。
  CURLOPT_FORBID_REUSE
  在完成交互以后强迫断开连接,不能重用。
  CURLOPT_FRESH_CONNECT
  强制获取一个新的连接,替代缓存中的连接。
  CURLOPT_FTP_USE_EPRT
  启用时当FTP下载时,使用EPRT (或 LPRT)命令。设置为FALSE时禁用EPRT和LPRT,使用PORT命令 only.
  CURLOPT_FTP_USE_EPSV
  启用时,在FTP传输过程中回复到PASV模式前首先尝试EPSV命令。设置为FALSE时禁用EPSV命令。
  CURLOPT_FTPAPPEND
  启用时追加写入文件而不是覆盖它。
  CURLOPT_FTPASCII
  CURLOPT_TRANSFERTEXT的别名。
  CURLOPT_FTPLISTONLY
  启用时只列出FTP目录的名字。
  CURLOPT_HEADER
  启用时会将头文件的信息作为数据流输出。
  CURLINFO_HEADER_OUT
  启用时追踪句柄的请求字符串。
  从 PHP 5.1.3 开始可用。CURLINFO_前缀是故意的(intentional)。
  CURLOPT_HTTPGET
  启用时会设置HTTP的method为GET,因为GET是默认是,所以只在被修改的情况下使用。
  CURLOPT_HTTPPROXYTUNNEL
  启用时会通过HTTP代理来传输。
  CURLOPT_MUTE
  启用时将cURL函数中所有修改过的参数恢复默认值。
  CURLOPT_NETRC
  在连接建立以后,访问~/.netrc文件获取用户名和密码信息连接远程站点。
  CURLOPT_NOBODY
  启用时将不对HTML中的BODY部分进行输出。
  CURLOPT_NOPROGRESS
  启用时关闭curl传输的进度条,此项的默认设置为启用。
  Note:
  PHP自动地设置这个选项为TRUE,这个选项仅仅应当在以调试为目的时被改变。
  CURLOPT_NOSIGNAL
  启用时忽略所有的curl传递给php进行的信号。在SAPI多线程传输时此项被默认启用。
  cURL 7.10时被加入。
  CURLOPT_POST
  启用时会发送一个常规的POST请求,类型为:application/x-www-form-urlencoded,就像表单提交的一样。
  CURLOPT_PUT
  启用时允许HTTP发送文件,必须同时设置CURLOPT_INFILECURLOPT_INFILESIZE
  CURLOPT_RETURNTRANSFER
  将curl_exec()获取的信息以文件流的形式返回,而不是直接输出。
  CURLOPT_SSL_VERIFYPEER
  禁用后cURL将终止从服务端进行验证。使用CURLOPT_CAINFO选项设置证书使用CURLOPT_CAPATH选项设置证书目录 如果CURLOPT_SSL_VERIFYPEER(默认值为2)被启用,CURLOPT_SSL_VERIFYHOST需要被设置成TRUE否则设置为FALSE
  自cURL 7.10开始默认为TRUE。从cURL 7.10开始默认绑定安装。
  CURLOPT_TRANSFERTEXT
  启用后对FTP传输使用ASCII模式。对于LDAP,它检索纯文本信息而非HTML。在Windows系统上,系统不会把STDOUT设置成binary模式。
  CURLOPT_UNRESTRICTED_AUTH
  在使用CURLOPT_FOLLOWLOCATION产生的header中的多个locations中持续追加用户名和密码信息,即使域名已发生改变。
  CURLOPT_UPLOAD
  启用后允许文件上传。
  CURLOPT_VERBOSE
  启用时会汇报所有的信息,存放在STDERR或指定的CURLOPT_STDERR中。
  对于下面的这些option的可选参数,value应该被设置一个integer类型的值:
  选项
  可选value
  备注
  CURLOPT_BUFFERSIZE
  每次获取的数据中读入缓存的大小,但是不保证这个值每次都会被填满。
  在cURL 7.10中被加入。
  CURLOPT_CLOSEPOLICY
  不是CURLCLOSEPOLICY_LEAST_RECENTLY_USED就是CURLCLOSEPOLICY_OLDEST,还存在另外三个CURLCLOSEPOLICY_,但是cURL暂时还不支持。
  CURLOPT_CONNECTTIMEOUT
  在发起连接前等待的时间,如果设置为0,则无限等待。
  CURLOPT_CONNECTTIMEOUT_MS
  尝试连接等待的时间,以毫秒为单位。如果设置为0,则无限等待。
  在cURL 7.16.2中被加入。从PHP 5.2.3开始可用。
  CURLOPT_DNS_CACHE_TIMEOUT
  设置在内存中保存DNS信息的时间,默认为120秒。
  CURLOPT_FTPSSLAUTH
  FTP验证方式:CURLFTPAUTH_SSL (首先尝试SSL),CURLFTPAUTH_TLS (首先尝试TLS)或CURLFTPAUTH_DEFAULT (让cURL自动决定)。
  在cURL 7.12.2中被加入。
  CURLOPT_HTTP_VERSION
  CURL_HTTP_VERSION_NONE (默认值,让cURL自己判断使用哪个版本),CURL_HTTP_VERSION_1_0 (强制使用 HTTP/1.0)或CURL_HTTP_VERSION_1_1 (强制使用 HTTP/1.1)。
  CURLOPT_HTTPAUTH
  使用的HTTP验证方法,可选的值有:CURLAUTH_BASICCURLAUTH_DIGESTCURLAUTH_GSSNEGOTIATECURLAUTH_NTLMCURLAUTH_ANYCURLAUTH_ANYSAFE。 可以使用|位域(或)操作符分隔多个值,cURL让服务器选择一个支持最好的值。
  CURLAUTH_ANY等价于CURLAUTH_BASIC | CURLAUTH_DIGEST | CURLAUTH_GSSNEGOTIATE | CURLAUTH_NTLM. CURLAUTH_ANYSAFE等价于CURLAUTH_DIGEST | CURLAUTH_GSSNEGOTIATE | CURLAUTH_NTLM.
  CURLOPT_INFILESIZE
  设定上传文件的大小限制,字节(byte)为单位。
  CURLOPT_LOW_SPEED_LIMIT
  当传输速度小于CURLOPT_LOW_SPEED_LIMIT时(bytes/sec),PHP会根据CURLOPT_LOW_SPEED_TIME来判断是否因太慢而取消传输。
  CURLOPT_LOW_SPEED_TIME
  当传输速度小于CURLOPT_LOW_SPEED_LIMIT时(bytes/sec),PHP会根据CURLOPT_LOW_SPEED_TIME来判断是否因太慢而取消传输。
  CURLOPT_MAXCONNECTS
  允许的最大连接数量,超过是会通过CURLOPT_CLOSEPOLICY决定应该停止哪些连接。
  CURLOPT_MAXREDIRS
  指定最多的HTTP重定向的数量,这个选项是和CURLOPT_FOLLOWLOCATION一起使用的。
  CURLOPT_PORT
  用来指定连接端口。(可选项)
  CURLOPT_PROTOCOLS
  CURLPROTO_*的位域指。如果被启用,位域值会限定libcurl在传输过程中有哪些可使用的协议。这将允许你在编译libcurl时支持众多协议,但是限制只是用它们中被允许使用的一个子集。默认libcurl将会使用全部它支持的协议。参见CURLOPT_REDIR_PROTOCOLS. 可用的协议选项为:CURLPROTO_HTTPCURLPROTO_HTTPSCURLPROTO_FTPCURLPROTO_FTPSCURLPROTO_SCPCURLPROTO_SFTPCURLPROTO_TELNETCURLPROTO_LDAPCURLPROTO_LDAPSCURLPROTO_DICTCURLPROTO_FILECURLPROTO_TFTPCURLPROTO_ALL
  在cURL 7.19.4中被加入。
  CURLOPT_PROXYAUTH
  HTTP代理连接的验证方式。使用在CURLOPT_HTTPAUTH中的位域标志来设置相应选项。对于代理验证只有CURLAUTH_BASICCURLAUTH_NTLM当前被支持。
  在cURL 7.10.7中被加入。
  CURLOPT_PROXYPORT
  代理服务器的端口。端口也可以在CURLOPT_PROXY中进行设置。
  CURLOPT_PROXYTYPE
  不是CURLPROXY_HTTP (默认值) 就是CURLPROXY_SOCKS5
  在cURL 7.10中被加入。
  CURLOPT_REDIR_PROTOCOLS
  CURLPROTO_*中的位域值。如果被启用,位域值将会限制传输线程在CURLOPT_FOLLOWLOCATION开启时跟随某个重定向时可使用的协议。这将使你对重定向时限制传输线程使用被允许的协议子集默认libcurl将会允许除FILE和SCP之外的全部协议。这个和7.19.4预发布版本种无条件地跟随所有支持的协议有一些不同。关于协议常量,请参照CURLOPT_PROTOCOLS
  在cURL 7.19.4中被加入。
  CURLOPT_RESUME_FROM
  在恢复传输时传递一个字节偏移量(用来断点续传)。
  CURLOPT_SSL_VERIFYHOST
  1 检查服务器SSL证书中是否存在一个公用名(common name)。译者注:公用名(Common Name)一般来讲就是填写你将要申请SSL证书的域名 (domain)或子域名(sub domain)。2 检查公用名是否存在,并且是否与提供的主机名匹配。
  CURLOPT_SSLVERSION
  使用的SSL版本(2 或 3)。默认情况下PHP会自己检测这个值,尽管有些情况下需要手动地进行设置。
  CURLOPT_TIMECONDITION
  如果在CURLOPT_TIMEVALUE指定的某个时间以后被编辑过,则使用CURL_TIMECOND_IFMODSINCE返回页面,如果没有被修改过,并且CURLOPT_HEADER为true,则返回一个"304 Not Modified"的header, CURLOPT_HEADER为false,则使用CURL_TIMECOND_IFUNMODSINCE,默认值为CURL_TIMECOND_IFUNMODSINCE
  CURLOPT_TIMEOUT
  设置cURL允许执行的最长秒数。
  CURLOPT_TIMEOUT_MS
  设置cURL允许执行的最长毫秒数。
  在cURL 7.16.2中被加入。从PHP 5.2.3起可使用。
  CURLOPT_TIMEVALUE
  设置一个CURLOPT_TIMECONDITION使用的时间戳,在默认状态下使用的是CURL_TIMECOND_IFMODSINCE
  对于下面的这些option的可选参数,value应该被设置一个string类型的值:
  选项
  可选value
  备注
  CURLOPT_CAINFO
  一个保存着1个或多个用来让服务端验证的证书的文件名。这个参数仅仅在和CURLOPT_SSL_VERIFYPEER一起使用时才有意义。 .
  CURLOPT_CAPATH
  一个保存着多个CA证书的目录。这个选项是和CURLOPT_SSL_VERIFYPEER一起使用的。
  CURLOPT_COOKIE
  设定HTTP请求中"Cookie: "部分的内容。多个cookie用分号分隔,分号后带一个空格(例如, "fruit=apple; colour=red")。
  CURLOPT_COOKIEFILE
  包含cookie数据的文件名,cookie文件的格式可以是Netscape格式,或者只是纯HTTP头部信息存入文件。
  CURLOPT_COOKIEJAR
  连接结束后保存cookie信息的文件。
  CURLOPT_CUSTOMREQUEST
  使用一个自定义的请求信息来代替"GET""HEAD"作为HTTP请求。这对于执行"DELETE" 或者其他更隐蔽的HTTP请求。有效值如"GET""POST""CONNECT"等等。也就是说,不要在这里输入整个HTTP请求。例如输入"GET /index.html HTTP/1.0 "是不正确的。
  Note: 在确定服务器支持这个自定义请求的方法前不要使用。
  CURLOPT_EGDSOCKET
  类似CURLOPT_RANDOM_FILE,除了一个Entropy Gathering Daemon套接字。
  CURLOPT_ENCODING
  HTTP请求头中"Accept-Encoding: "的值。支持的编码有"identity""deflate""gzip"。如果为空字符串"",请求头会发送所有支持的编码类型。
  在cURL 7.10中被加入。
  CURLOPT_FTPPORT
  这个值将被用来获取供FTP"POST"指令所需要的IP地址。"POST"指令告诉远程服务器连接到我们指定的IP地址。这个字符串可以是纯文本的IP地址、主机名、一个网络接口名(UNIX下)或者只是一个'-'来使用默认的IP地址。
  CURLOPT_INTERFACE
  网络发送接口名,可以是一个接口名、IP地址或者是一个主机名。
  CURLOPT_KRB4LEVEL
  KRB4 (Kerberos 4) 安全级别。下面的任何值都是有效的(从低到高的顺序):"clear""safe""confidential""private".。如果字符串和这些都不匹配,将使用"private"。这个选项设置为NULL时将禁用KRB4 安全认证。目前KRB4 安全认证只能用于FTP传输。
  CURLOPT_POSTFIELDS
  全部数据使用HTTP协议中的"POST"操作来发送。要发送文件,在文件名前面加上@前缀并使用完整路径。这个参数可以通过urlencoded后的字符串类似'para1=val1¶2=val2&...'或使用一个以字段名为键值,字段数据为值的数组。如果value是一个数组,Content-Type头将会被设置成multipart/form-data
  CURLOPT_PROXY
  HTTP代理通道。
  CURLOPT_PROXYUSERPWD
  一个用来连接到代理的"[username]:[password]"格式的字符串。
  CURLOPT_RANDOM_FILE
  一个被用来生成SSL随机数种子的文件名。
  CURLOPT_RANGE
  以"X-Y"的形式,其中X和Y都是可选项获取数据的范围,以字节计。HTTP传输线程也支持几个这样的重复项中间用逗号分隔如"X-Y,N-M"
  CURLOPT_REFERER
  在HTTP请求头中"Referer: "的内容。
  CURLOPT_SSL_CIPHER_LIST
  一个SSL的加密算法列表。例如RC4-SHATLSv1都是可用的加密列表。
  CURLOPT_SSLCERT
  一个包含PEM格式证书的文件名。
  CURLOPT_SSLCERTPASSWD
  使用CURLOPT_SSLCERT证书需要的密码。
  CURLOPT_SSLCERTTYPE
  证书的类型。支持的格式有"PEM" (默认值), "DER""ENG"
  在cURL 7.9.3中被加入。
  CURLOPT_SSLENGINE
  用来在CURLOPT_SSLKEY中指定的SSL私钥的加密引擎变量。
  CURLOPT_SSLENGINE_DEFAULT
  用来做非对称加密操作的变量。
  CURLOPT_SSLKEY
  包含SSL私钥的文件名。
  CURLOPT_SSLKEYPASSWD
  在CURLOPT_SSLKEY中指定了的SSL私钥的密码。
  Note: 由于这个选项包含了敏感的密码信息,记得保证这个PHP脚本的安全。
  CURLOPT_SSLKEYTYPE
  CURLOPT_SSLKEY中规定的私钥的加密类型,支持的密钥类型为"PEM"(默认值)、"DER""ENG"
  CURLOPT_URL
  需要获取的URL地址,也可以在curl_init()函数中设置。
  CURLOPT_USERAGENT
  在HTTP请求中包含一个"User-Agent: "头的字符串。
  CURLOPT_USERPWD
  传递一个连接中需要的用户名和密码,格式为:"[username]:[password]"
  对于下面的这些option的可选参数,value应该被设置一个数组:
  对于下面的这些option的可选参数,value应该被设置一个流资源 (例如使用fopen()):
  对于下面的这些option的可选参数,value应该被设置为一个回调函数名:
  选项
  可选value
  CURLOPT_HEADERFUNCTION
  设置一个回调函数,这个函数有两个参数,第一个是cURL的资源句柄,第二个是输出的header数据。header数据的输出必须依赖这个函数,返回已写入的数据大小。
  CURLOPT_PASSWDFUNCTION
  设置一个回调函数,有三个参数,第一个是cURL的资源句柄,第二个是一个密码提示符,第三个参数是密码长度允许的最大值。返回密码的值。
  CURLOPT_PROGRESSFUNCTION
  设置一个回调函数,有三个参数,第一个是cURL的资源句柄,第二个是一个文件描述符资源,第三个是长度。返回包含的数据。
  CURLOPT_READFUNCTION
  拥有两个参数的回调函数,第一个是参数是会话句柄,第二是HTTP响应头信息的字符串。使用此函数,将自行处理返回的数据。返回值为数据大小,以字节计。返回0代表EOF信号。
  CURLOPT_WRITEFUNCTION
  拥有两个参数的回调函数,第一个是参数是会话句柄,第二是HTTP响应头信息的字符串。使用此回调函数,将自行处理响应头信息。响应头信息是整个字符串。设置返回值为精确的已写入字符串长度。发生错误时传输线程终止。
  看到了吧,只要在第二个函数之内设置这些选项就可以完成相应的功能,cURL的功能是灰常强大滴,大家可以尝试一下哦!
  例如,我们只想把获取到的内容输入到文件,而不是直接输出给浏览器,我们就可以使用CURLOPT_RETURNTRANSFER选项!
  这样在curl执行的时候,就会把页面的内容输出到文件当中,我们就可以完成采集等功能啦!
  效率方面,curl的原理是模拟浏览器的操作,它的效率要比file_get_contents()高出四倍以上,试想一下,我们
  要采集一个信息量特别庞大的站,运行效率的差别可想而知!
  不单单是效率上,稳定性上来说,curl也远比file_get_contents()函数要好很多!
  这就是强大的curl,下文将给大家详细介绍它的高级应用,我们可以模拟浏览器的post传值,甚至上传!

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-429470-1-1.html 上篇帖子: php高并发秒杀解决方案 下篇帖子: PHP随机红包算法
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表