当前位置：首页 > PHP教程 > php应用 > 列表

PHP抓取及分析网页的方法详解

发布:smiling　来源: PHP粉丝网 　添加日期：2019-08-18 14:20:10　浏览: 评论：0　

本文实例讲述了PHP抓取及分析网页的方法。分享给大家供大家参考，具体如下：

抓取和分析一个文件是非常简单的事。这个教程将通过一个例子带领你一步一步地去实现它。让我们开始吧！

首先，我首必须决定我们将抓取的URL地址。可以通过在脚本中设定或通过$QUERY_STRING传递。为了简单起见，让我们将变量直接设在脚本中。

  2.  
  3. $url = 'http://www.phpfensi.com'; 
  4.  
  5. ?> 

第二步，我们抓取指定文件，并且通过file()函数将它存在一个数组里。

  2.  
  3. $url = 'http://www.phpfensi.com'; 
  4.  
  5. $lines_array = file($url); 
  6.  
  7. ?> 

好了，现在在数组里已经有了文件了。但是，我们想分析的文本可能不全在一行里面。为了解决这个文件，我们可以简单地将数组$lines_array转化成一个字符串。我们可以使用implode(x,y)函数来实现它。如果在后面你想用explode(将字符串变量数组)，将x设成"|"或"!"或其它类似的分隔符可能会更好。但是出于我们的目的，最好将x设成空格。y是另一个必要的参数，因为它是你想用implode()处理的数组。

  2.  
  3. $url = 'http://www.phpfensi.com'; 
  4.  
  5. $lines_array = file($url); 
  6.  
  7. $lines_string = implode('', $lines_array); 
  8.  
  9. ?> 

现在，抓取工作就做完了，下面该进行分析了。出于这个例子的目的，我们想得到在到之间的所有东西。为了分析出字符串，我们还需要叫做正规表达式的东西。

  2.  
  3. $url = 'http://www.phpfensi.com'; 
  4.  
  5. $lines_array = file($url); 
  6.  
  7. $lines_string = implode('', $lines_array); 
  8.  
  9. eregi("(.*)", $lines_string, $head); 
  10.  
  11. ?> 

让我们看一下代码。正如你所见，eregi()函数按下面的格式执行：

eregi("(.*)", $lines_string, $head);

"(.*)"表示所有东西，可以解释为，"分析在和间的所以东西"。$lines_string是我们正在分析的字符串，$head是分析后的结果存放的数组。

最后，我们可以输数据。因为仅在和间存在一个实例，我们可以安全的假设数组中仅存在着一个元素，而且就是我们想要的。让我们把它打印出来吧。

  2. $url = 'http://www.phpfensi.com';  
  3.  
  4. $lines_array = file($url); 
  5.  
  6. $lines_string = implode('', $lines_array); eregi("(.*)", $lines_string, $head); 
  7.  
  8. echo $head[0]; 
  9.  
  10. ?> 

这就是全部的代码了。

  1. <?php 
  2.  
  3. //获取所有内容url保存到文件 
  4.  
  5. function get_index ( $save_file , $prefix = "index_" ){ 
  6.  
  7.    $count = 68 ; 
  8.  
  9.    $i = 1 ; 
  10.  
  11.   if ( file_exists ( $save_file )) @ unlink ( $save_file ); 
  12.  
  13.    $fp = fopen ( $save_file , "a+" ) or die( "Open " . $save_file . " failed" ); 
  14.  
  15.   while( $i < $count ){ 
  16.  
  17.      $url = $prefix . $i . ".htm" ; 
  18.  
  19.     echo "Get " . $url . "..." ; 
  20.  
  21.      $url_str = get_content_url ( get_url ( $url )); 
  22.  
  23.     echo " OK/n" ; 
  24.  
  25.      fwrite ( $fp , $url_str ); 
  26.  
  27.     ++ $i ; 
  28.  
  29.   } 
  30.  
  31.    fclose ( $fp ); 
  32.  
  33. } 
  34.  
  35. //获取目标多媒体对象 
  36.  
  37. function get_object ( $url_file , $save_file , $split = "|--:**:--|" ){ 
  38.  
  39.   if (! file_exists ( $url_file )) die( $url_file . " not exist" ); 
  40.  
  41.    $file_arr = file ( $url_file ); 
  42.  
  43.   if (! is_array ( $file_arr ) || emptyempty( $file_arr )) die( $url_file . " not content" ); 
  44.  
  45.    $url_arr = array_unique ( $file_arr ); 
  46.  
  47.   if ( file_exists ( $save_file )) @ unlink ( $save_file ); 
  48.  
  49.    $fp = fopen ( $save_file , "a+" ) or die( "Open save file " . $save_file . " failed" ); 
  50.  
  51.   foreach( $url_arr as $url ){ 
  52.  
  53.     if (emptyempty( $url )) continue; 
  54.  
  55.     echo "Get " . $url . "..." ; 
  56.  
  57.      $html_str = get_url ( $url ); 
  58.  
  59.     echo $html_str ; 
  60.  
  61.     echo $url ; 
  62.  
  63.     exit; 
  64.  
  65.      $obj_str = get_content_object ( $html_str ); 
  66.  
  67.     echo " OK/n" ; 
  68.  
  69.      fwrite ( $fp , $obj_str ); 
  70.  
  71.   } 
  72.  
  73.    fclose ( $fp ); 
  74.  
  75. } 
  76.  
  77. //遍历目录获取文件内容 
  78.  
  79. function get_dir ( $save_file , $dir ){ 
  80.  
  81.    $dp = opendir ( $dir ); 
  82.  
  83.   if ( file_exists ( $save_file )) @ unlink ( $save_file ); 
  84.  
  85.    $fp = fopen ( $save_file , "a+" ) or die( "Open save file " . $save_file . " failed" ); 
  86.  
  87.   while(( $file = readdir ( $dp )) != false ){ 
  88.  
  89.     if ( $file != "." && $file != ".." ){ 
  90.  
  91.       echo "Read file " . $file . "..." ; 
  92.  
  93.        $file_content = file_get_contents ( $dir . $file ); 
  94.  
  95.        $obj_str = get_content_object ( $file_content ); 
  96.  
  97.       echo " OK/n" ; 
  98.  
  99.        fwrite ( $fp , $obj_str ); 
  100.  
  101.     } 
  102.  
  103.   } 
  104.  
  105.    fclose ( $fp ); 
  106.  
  107. } 
  108.  
  109. //获取指定url内容 
  110.  
  111. function get_url ( $url ){ 
  112.  
  113.    $reg = '/^http:////[^//].+$/' ; 
  114.  
  115.   if (! preg_match ( $reg , $url )) die( $url . " invalid" ); 
  116.  
  117.    $fp = fopen ( $url , "r" ) or die( "Open url: " . $url . " failed." ); 
  118.  
  119.   while( $fc = fread ( $fp , 8192 )){ 
  120.  
  121.      $content .= $fc ; 
  122.  
  123.   } 
  124.  
  125.    fclose ( $fp ); 
  126.  
  127.   if (emptyempty( $content )){ 
  128.  
  129.     die( "Get url: " . $url . " content failed." ); 
  130.  
  131.   } 
  132.  
  133.   return $content ; 
  134.  
  135. } 
  136.  
  137. //使用socket获取指定网页 
  138.  
  139. function get_content_by_socket ( $url , $host ){ 
  140.  
  141.    $fp = fsockopen ( $host , 80 ) or die( "Open " . $url . " failed" ); 
  142.  
  143.    $header = "GET /" . $url . " HTTP/1.1/r/n" ; 
  144.  
  145.    $header .= "Accept: */*/r/n" ; 
  146.  
  147.    $header .= "Accept-Language: zh-cn/r/n" ; 
  148.  
  149.    $header .= "Accept-Encoding: gzip, deflate/r/n" ; 
  150.  
  151.    $header .= "User-Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; Maxthon; InfoPath.1; .NET CLR 2.0.50727)/r/n" ; 
  152.  
  153.    $header .= "Host: " . $host . "/r/n" ; 
  154.  
  155.    $header .= "Connection: Keep-Alive/r/n" ; 
  156.  
  157.    //$header .= "Cookie: cnzz02=2; rtime=1; ltime=1148456424859; cnzz_eid=56601755-/r/n/r/n"; 
  158.  
  159.    $header .= "Connection: Close/r/n/r/n" ; 
  160.  
  161.    fwrite ( $fp , $header ); 
  162.  
  163.    while (! feof ( $fp )) { 
  164.  
  165.      $contents .= fgets ( $fp , 8192 ); 
  166.  
  167.    } 
  168.  
  169.    fclose ( $fp ); 
  170.  
  171.    return $contents ; 
  172.  
  173. } 
  174.  
  175. //获取指定内容里的url 
  176.  
  177. function get_content_url ( $host_url , $file_contents ){ 
  178.  
  179.    //$reg = '/^(#|<a href="http://lib.csdn.net/base/18" class="replace_word" title="JavaScript知识库" target="_blank" style="color:#df3434; font-weight:bold;">JavaScript</a>.*?|ftp:////.+|http:////.+|.*?href.*?|play.*?|index.*?|.*?asp)+$/i'; 
  180.  
  181.    //$reg = '/^(down.*?/.html|/d+_/d+/.htm.*?)$/i'; 
  182.  
  183.    $rex = "/([hH][rR][eE][Ff])/s*=/s*['/"]*([^>'/"/s]+)[/"'>]*/s*/i" ; 
  184.  
  185.    $reg = '/^(down.*?/.html)$/i' ; 
  186.  
  187.    preg_match_all ( $rex , $file_contents , $r ); 
  188.  
  189.    $result = "" ; //array(); 
  190.  
  191.    foreach( $r as $c ){ 
  192.  
  193.     if ( is_array ( $c )){ 
  194.  
  195.       foreach( $c as $d ){ 
  196.  
  197.         if ( preg_match ( $reg , $d )){ $result .= $host_url . $d . "/n" ; } 
  198.  
  199.       } 
  200.  
  201.     } 
  202.  
  203.   } 
  204.  
  205.   return $result ; 
  206.  
  207. } 
  208.  
  209. //获取指定内容中的多媒体文件 
  210.  
  211. function get_content_object ( $str , $split = "|--:**:--|" ){ 
  212.  
  213.    $regx = "/href/s*=/s*['/"]*([^>'/"/s]+)[/"'>]*/s*(.*?<!--/b-->)/i" ; 
  214.  
  215.    preg_match_all ( $regx , $str , $result ); 
  216.  
  217.   if ( count ( $result ) == 3 ){ 
  218.  
  219.      $result [ 2 ] = str_replace ( "多媒体： " , "" , $result [ 2 ]); 
  220.  
  221.      $result [ 2 ] = str_replace ( " " , "" , $result [ 2 ]); 
  222.  
  223.      $result = $result [ 1 ][ 0 ] . $split . $result [ 2 ][ 0 ] . "/n" ; 
  224.  
  225.   } 
  226.  
  227.   return $result ; 
  228.  
  229. } 
  230.  
  231. ?> 

Tags: PHP抓取网页

分享到：

相关文章

推荐文章

热门文章

最新评论文章