php记录搜索引擎爬行记录的实现代码

php  /  管理员 发布于 7年前   181

下面是完整代码：

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); if ($searchbot) { $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); $url = $_SERVER['HTTP_REFERER']; $file = WEB_PATH.'robotslogs.txt'; $date = date('Y-m-d H:i:s'); $data = fopen($file,'a'); fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); fclose($data);}

WEB_PATH为index.PHP下define的根目录路径，意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录，然后在通过addslashes处理一下，将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件，将数据通过函数fwrite写入，在通过函数fclose关闭就可以了。

因为我觉得没必要，所以把自己网站上的代码删除了，所以也没有效果示例了。

PS：php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎：Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码：

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对站的支持！

您可能感兴趣的文章:

• PHP 爬取网页的主要方法
• php爬取天猫和淘宝商品数据
• php与python实现的线程池多线程爬虫功能示例
• php实现简单爬虫的开发
• php实现爬取和分析知乎用户数据
• PHP爬虫之百万级别知乎用户数据爬取与分析
• PHP实现简单爬虫的方法
• 浅析php如何实现爬取数据原理