PHP统计nginx访问日志中的搜索引擎抓取404链接页面路径

php  /  管理员 发布于 7年前   233

我在服务器上有每天切割nginx日志的习惯，所以针对每天各大搜索引擎来访，总能记录一些404页面信息，传统上我只是偶尔分析下日志，但是对于很多日志信息的朋友，人工来筛选可能不是一件容易的事情，这不我个人自己慢慢研究了一点点，针对谷歌、百度、搜搜、360搜索、宜搜、搜狗、必应等搜索引擎的404访问生成为一个txt文本文件，直接上代码test.php。

复制代码 代码如下:

//访问test.php?s=google
$domain='';
$spiders=array('baidu'=>'Baiduspider','360'=>'360Spider',
'google'=>'Googlebot','soso'=>'Sosospider','sogou'=>
'Sogou web spider','easou'=>'EasouSpider','bing'=>'bingbot');
 
$path='/home/nginx/logs/'.date('Y/m/').(date('d')-1).'/access_www.txt';
 
$s=$_GET['s'];
 
if(!array_key_exists($s,$spiders)) die();
$spider=$spiders[$s];
 
$file=$s.'_'.date('ym').(date('d')-1).'.txt';
if(!file_exists($file)){
    $in=file_get_contents($path);
    $pattern='/GET (.*) HTTP\/1.1" 404.*'.$spider.'/';
    preg_match_all ( $pattern , $in , $matches );
    $out='';
    foreach($matches[1] as $k=>$v){
        $out.=$domain.$v."\r\n";
    }
    file_put_contents($file,$out);
}
 
$url=$domain.'/silian/'.$file;
echo $url;

好就这样了。没有什么高深的技术，只有动手写的过程。

您可能感兴趣的文章:

• php 定义404页面的实现代码
• ThinkPHP3.2.3框架实现的空模块、空控制器、空操作，跳转到错误404页面图文详解
• thinkphp框架下404页面设置 仅三步
• ThinkPHP 404页面的设置方法
• ThinkPHP访问不存在的模块跳转到404页面的方法
• php使用curl判断网页404(不存在)的方法
• PHP header()函数使用详细(301、404等错误设置)
• php 404错误页面实现代码
• 用php来改写404错误页让你的页面更友好
• php 智能404跳转代码,适合换域名没改变目录的网站
• thinkPHP5框架设置404、403等http状态页面的方法
• php简单检测404页面的方法示例