php CERL 多线程

darkpoon

curl一般用来抓取网页，第二种就是get或者post数据，第三种应用就是实现PHP的多线程任务。下面来实现多线程的：
01<?php
02/*
03curl 多线程抓取
04*/
05
06 /**
07     * curl 多线程
08     *
09     * @param array $array 并行网址
10     * @param int $timeout 超时时间
11     * @return array
12     */
13 function Curl_http($array,$timeout){
14    $res = array();
15    $mh = curl_multi_init();//创建多个curl语柄
16    $startime = getmicrotime();
17    foreach($array as $k=>$url){
18        $conn[$k]=curl_init($url);
19         
20        curl_setopt($conn[$k], CURLOPT_TIMEOUT, $timeout);//设置超时时间
21        curl_setopt($conn[$k], CURLOPT_USERAGENT, 'Mozilla/5.0 (compatible; MSIE 5.01; Windows NT 5.0)');
22        curl_setopt($conn[$k], CURLOPT_MAXREDIRS, 7);//HTTp定向级别
23        curl_setopt($conn[$k], CURLOPT_HEADER, 0);//这里不要header，加块效率
24        curl_setopt($conn[$k], CURLOPT_FOLLOWLOCATION, 1); // 302 redirect
25        curl_setopt($conn[$k],CURLOPT_RETURNTRANSFER,1);
26        curl_multi_add_handle ($mh,$conn[$k]);
27    }
28     //防止死循环耗死cpu 这段是根据网上的写法
29        do {
30            $mrc = curl_multi_exec($mh,$active);//当无数据，active=true
31        } while ($mrc == CURLM_CALL_MULTI_PERFORM);//当正在接受数据时
32        while ($active and $mrc == CURLM_OK) {//当无数据时或请求暂停时，active=true
33            if (curl_multi_select($mh) != -1) {
34                do {
35                    $mrc = curl_multi_exec($mh, $active);
36                } while ($mrc == CURLM_CALL_MULTI_PERFORM);
37            }
38        }
39     
40    foreach ($array as $k => $url) {
41          curl_error($conn[$k]);
42          $res[$k]=curl_multi_getcontent($conn[$k]);//获得返回信息
43          $header[$k]=curl_getinfo($conn[$k]);//返回头信息
44          curl_close($conn[$k]);//关闭语柄
45          curl_multi_remove_handle($mh  , $conn[$k]);   //释放资源
46        }
47         
48        curl_multi_close($mh);
49        $endtime = getmicrotime();
50        $diff_time = $endtime - $startime;
51         
52        return array('diff_time'=>$diff_time,
53                     'return'=>$res,
54                    'header'=>$header      
55                    );
56     
57 }
58 //计算当前时间
59 function getmicrotime() {
60        list($usec, $sec) = explode(" ",microtime());
61        return ((float)$usec + (float)$sec);
62    }
63     
64    //测试一下，curl 三个网址
65    $array = array(
66                "http://www.weibo.com/",
67                "http://www.renren.com/",
68                "http://www.qq.com/"
69                );
70
71    $data = Curl_http($array,'10');//调用
72    var_dump($data);//输出
73      
74?>

因为$active要等全部url数据接受完毕才变成false，所以这里用到了curl_multi_exec的返回值判断是否还有数据，当有数据的时候就不停调用curl_multi_exec，暂时没有数据就进入select阶段，新数据一来就可以被唤醒继续执行。这里的好处就是CPU的无谓消耗没有了。

这个多线程的写法步骤：

   1. 调用curl_multi_init
   2. 循环调用curl_multi_add_handle，这一步需要注意的是，curl_multi_add_handle的第二个参数是由curl_init而来的子handle。
   3. 持续调用curl_multi_exec
   4. 根据需要循环调用curl_multi_getcontent获取结果
   5. 调用curl_multi_remove_handle，并为每个字handle调用curl_close
   6. 调用curl_multi_close