当前位置:首页 > PHP教程 > php高级应用 > 列表

php curl 功能简介与抓取163邮件列表

发布:smiling 来源: PHP粉丝网  添加日期:2014-09-08 20:07:39 浏览: 评论:0 

如果你看到的话,那么你需要设置你的php教程并开启这个库,如果你是在windows平台下,那么非常简单,你需要改一改你的php.ini文件的设置,找到php_curl.dll,并取消前面的分号注释就行了,如下所示:

取消下在的注释 extension=php_curl.dll

如果你是在linux下面,那么,google排名你需要重新编译你的php了,编辑时,你需要打开编译参数——在configure命令上加上“–with-curl” 参数.

一个小示例,如果一切就绪,下面是一个小例程,代码如下:

  1. <?php  
  2. // 初始化一个 curl 对象  
  3. $curl = curl_init();  
  4. // 设置你需要抓取的url  
  5. curl_setopt($curl, curlopt_url, 'http://phpfensi.com');  
  6. // 设置header  
  7. curl_setopt($curl, curlopt_header, 1);  
  8. // 设置curl 参数,要求结果保存到字符串中还是输出到屏幕上。  
  9. curl_setopt($curl, curlopt_returntransfer, 1);  
  10. // 运行curl,请求网页  
  11. $data = curl_exec($curl);  
  12. // 关闭url请求  
  13. curl_close($curl);  
  14. // 显示获得的数据 
  15. ?> 

var_dump($data);

如何post数据

上面是抓取网页的代码,下面则是向某个网页post数据,假设我们有一个处理表单的网址http://www.example.com/sendsms.php,其可以接受两个表单域,一个是电话号码,一个是短信内容,代码如下:

  1. <?php  
  2. $phonenumber = '13912345678';  
  3. $message = 'this message was generated by curl and php'//开源代码phpfensi.com 
  4. $curlpost = 'pnumber=' . urlencode($phonenumber) . '&message=' . urlencode($message) . '&submit=send';  
  5. $ch = curl_init();chain link fencing  
  6. curl_setopt($ch, curlopt_url, 'http://www.example.com/sendsms.php');  
  7. curl_setopt($ch, curlopt_header, 1);  
  8. curl_setopt($ch, curlopt_returntransfer, 1);  
  9. curl_setopt($ch, curlopt_post, 1);  
  10. curl_setopt($ch, curlopt_postfields, $curlpost);  
  11. $data = curl_exec();  
  12. curl_close($ch);  
  13. ?> 

从上面的程序我们可以看到,使用curlopt_post设置http协议的post方法,而不是get方法,然后以curlopt_postfields设置post的数据.

关于代理服务器 

下面是一个如何使用代理服务器的示例,请注意其中高亮的代码,代码很简单,我就不用多说了,代码如下:

  1. <?php  
  2. $ch = curl_init();  
  3. curl_setopt($ch, curlopt_url, 'http://www.phpfensi.com');  
  4. curl_setopt($ch, curlopt_header, 1);  
  5. curl_setopt($ch, curlopt_returntransfer, 1);  
  6. curl_setopt($ch, curlopt_httpproxytunnel, 1);  
  7. curl_setopt($ch, curlopt_proxy, 'fakeproxy.com:1080');  
  8. curl_setopt($ch, curlopt_proxyuserpwd, 'user:password');  
  9. $data = curl_exec();  
  10. curl_close($ch);  
  11. ?> 

关于ssl和cookie 

关于ssl也就是https协议,你只需要把curlopt_url连接中的http://变成https://就可以了,当然,还有一个参数叫curlopt_ssl_verifyhost可以设置为验证站点.

关于cookie,你需要了解下面三个参数:

curlopt_cookie,在当面的会话中设置一个cookie.

curlopt_cookiejar,当会话结束的时候保存一个cookie.

curlopt_cookiefile,cookie的文件.

http服务器认证,最后,我们来看一看http服务器认证的情况,代码如下:

  1. <?php  
  2. $ch = curl_init();  
  3. curl_setopt($ch, curlopt_url, 'http://www.phpfensi.com');  
  4. curl_setopt($ch, curlopt_returntransfer, 1);  
  5. curl_setopt($ch, curlopt_httpauth, curlauth_basic);  
  6. curl_setopt(curlopt_userpwd, '[username]:[password]')  
  7. $data = curl_exec();  
  8. curl_close($ch);  
  9. ?> 

看一个利用curl抓取163邮箱地址列表代码

curl技术说白了就是模拟浏览器的动作实现页面抓取或表单提交,通过此技术可以实现许多有去的功能,代码如下:

  1. <?php  
  2. error_reporting(0);  
  3. //邮箱用户名(不带@163.com后缀的)  
  4. $user = 'papatata_test';  
  5. //邮箱密码  
  6. $pass = '000000';  
  7. //目标邮箱  
  8. //$mail_addr = uenucom@163.com';  
  9. //登陆  
  10. $url = 'http://reg.163.com/logins.jsp教程?type=1&url=http://entry.mail.163.com/coremail/fcg/ntesdoor2?lightweight%3d1%26verifycookie%3d1%26language%3d-1%26style%3d-1';  
  11. $ch = curl_init($url);  
  12. //创建一个用于存放cookie信息的临时文件  
  13. $cookie = tempnam('.','~');  
  14. $referer_login = 'http://mail.163.com';  
  15. //返回结果存放在变量中,而不是默认的直接输出  
  16. curl_setopt($ch, curlopt_returntransfer, true);  
  17. curl_setopt($ch, curlopt_header, true);  
  18. curl_setopt($ch, curlopt_connecttimeout, 120);  
  19. curl_setopt($ch, curlopt_post, true);  
  20. curl_setopt($ch, curlopt_referer, $referer_login);  
  21. $fields_post = array(  
  22. 'username'=> $user,  
  23. 'password'=> $pass,  
  24. 'verifycookie'=>1,  
  25. 'style'=>-1,  
  26. 'product'=> 'mail163',  
  27. 'seltype'=>-1,  
  28. 'secure'=>'on'  
  29. );  
  30. $headers_login = array(  
  31. 'user-agent' => 'mozilla/5.0 (windows; u; windows nt 5.1; zh-cn; rv:1.9) gecko/2008052906 firefox/3.0',  
  32. 'referer' => 'http://www.163.com'  
  33. );  
  34. $fields_string = '';  
  35. foreach($fields_post as $key => $value)  
  36. {  
  37. $fields_string .= $key . '=' . $value . '&';  
  38. }  
  39. $fields_string = rtrim($fields_string , '&');  
  40. curl_setopt($ch, curlopt_cookiesession, true);  
  41. //关闭连接时,将服务器端返回的cookie保存在以下文件中  
  42. curl_setopt($ch, curlopt_cookiejar, $cookie);  
  43. curl_setopt($ch, curlopt_httpheader, $headers_login);  
  44. curl_setopt($ch, curlopt_post, count($fields));  
  45. curl_setopt($ch, curlopt_postfields, $fields_string);  
  46. $result= curl_exec($ch);  
  47. curl_close($ch);  
  48. //跳转  
  49. $url='http://entry.mail.163.com/coremail/fcg/ntesdoor2?lightweight=1&verifycookie=1&language=-1&style=-1&username=loki_wuxi';  
  50. $ch = curl_init($url);  
  51. $headers = array(  
  52. 'user-agent' => 'mozilla/5.0 (windows; u; windows nt 5.1; zh-cn; rv:1.9) gecko/2008052906 firefox/3.0'  
  53. );  
  54. curl_setopt($ch, curlopt_returntransfer, true);  
  55. curl_setopt($ch, curlopt_header, true);  
  56. curl_setopt($ch, curlopt_connecttimeout, 120);  
  57. curl_setopt($ch, curlopt_post, true);  
  58. curl_setopt($ch, curlopt_httpheader, $headers);  
  59. //将之前保存的cookie信息,一起发送到服务器端  
  60. curl_setopt($ch, curlopt_cookiefile, $cookie);  
  61. curl_setopt($ch, curlopt_cookiejar, $cookie);  
  62. $result = curl_exec($ch);  
  63. curl_close($ch);  
  64. //取得sid  
  65. preg_match('/sid=[^"].*/'$result$location);  
  66. $sid = substr($location[0], 4, -1);  
  67. //file_put_contents('./result.txt', $sid);  
  68. //通讯录地址  
  69. $url='http://g4a30.mail.163.com/jy3/address/addrlist.jsp?sid='.$sid.'&gid=all';  
  70. $ch = curl_init($url);  
  71. $headers = array(  
  72. 'user-agent' => 'mozilla/5.0 (windows; u; windows nt 5.1; zh-cn; rv:1.9) gecko/2008052906 firefox/3.0'  
  73. );  
  74. curl_setopt($ch, curlopt_returntransfer, true);  
  75. curl_setopt($ch, curlopt_header, true);  
  76. curl_setopt($ch, curlopt_connecttimeout, 120);  
  77. curl_setopt($ch, curlopt_post, true);  
  78. curl_setopt($ch, curlopt_httpheader, $headers);  
  79. curl_setopt($ch, curlopt_cookiefile, $cookie);  
  80. curl_setopt($ch, curlopt_cookiejar, $cookie);  
  81. $result = curl_exec($ch);  
  82. curl_close($ch);  
  83. //file_put_contents('./result.txt', $result);  
  84. unlink($cookie);  
  85. //开始抓取内容  
  86. preg_match_all('/<td class="ibx_td_addrname"><a[^>]*>(.*?)</a></td><td class="ibx_td_addremail"><a[^>]*>(.*?)</a></td>/i'$result,$infos,preg_set_order);  
  87. //1:姓名2:邮箱  
  88. print_r($infos);  
  89. ?> 

Tags: php curl 抓取163邮件

分享到: