php爬虫原型

/*
 @desc:爬虫原型
 @author [Lee] <[]>
 @param url 初始url
 @param callback 处理业务的回调函数
 @param 挖掘url的深度 默认3
 */
function crawl($url,$callback,$depth = 3){
    if($depth > 0){
        $depth--;
        $http = new http($url);
        $content = $http->get()->exec();
        // 业务处理开始
        call_user_func($callback,$content);
        // 业务处理结束
        $preg = '/<[a|A].*?href=[\'\"]{0,1}([^>\'\"\ ]*).*?>/';
        $bool = preg_match_all($preg,$content,$res);
        $urls = array();
        if($bool){
            $urls = $res[1];
        }
                $urls = array_unique($urls);
        $info = parse_url($url);
        $scheme = $info["scheme"]?:'http';
        $user = $info["user"];
        $pass = $info["pass"];
        $host = $info["host"];
        $port = $info["port"];
        $path = $info["path"];
        $url = $scheme . '://';
        if ($user && $pass) {
            $url .= $user . ":" . $pass . "@";
        }
        $url .= $host;
        if ($port) {
            $url .= ":" . $port;
        } 
        $url .= $path;
        if (is_array($urls)) {
            foreach ($urls as $u) {
                if (preg_match('/^http/', $u)) {
                    $returl = $u;
                } else {
                    $real = $url . '/' . $u;
                    $returl = $real;
                }
                crawl($returl,$callback,$depth);
            }
        }
    }
}

网页标题:php爬虫原型
本文来源:http://www.hxwzsj.com/article/pepeeh.html

其他资讯

Copyright © 2025 青羊区翔捷宏鑫字牌设计制作工作室(个体工商户) All Rights Reserved 蜀ICP备2025123194号-14
友情链接: 成都网站建设推广 成都品牌网站设计 品牌网站建设 网站建设方案 成都网站建设 攀枝花网站设计 成都网站建设 专业网站建设 手机网站制作 专业网站设计 成都网站建设 响应式网站设计 教育网站设计方案 成都网站建设流程 成都网站建设 成都网站设计 成都网站制作 达州网站设计 成都网站设计 高端网站设计 营销型网站建设 响应式网站设计方案