php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
强烈推荐:php.ini中文版(2)
Oct 09 PHP
聊天室php&amp;mysql(六)
Oct 09 PHP
浅析PHP绘图技术
Jul 03 PHP
CI框架自动加载session出现报错的解决办法
Jun 17 PHP
php中heredoc与nowdoc介绍
Dec 25 PHP
php通过array_shift()函数移除数组第一个元素的方法
Mar 18 PHP
php使用curl打开https网站的方法
Jun 17 PHP
PHP中filter函数校验数据的方法详解
Jul 31 PHP
使用PHP实现下载CSS文件中的图片
Dec 06 PHP
yii2 页面底部加载css和js的技巧
Apr 21 PHP
实例讲解PHP表单验证功能
Feb 15 PHP
解决PHP Opcache 缓存刷新、代码重载出现无法更新代码的问题
Aug 24 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
使用php+apc实现上传进度条且在IE7下不显示的问题解决方法
2013/04/25 PHP
用PHP代码给图片加水印
2015/07/01 PHP
ThinkPHP删除栏目(实现批量删除栏目)
2017/06/21 PHP
JavaScript 题型问答有答案参考
2010/02/17 Javascript
JQUERY获取form表单值的代码
2010/07/17 Javascript
JavaScript.The.Good.Parts阅读笔记(一)假值与===运算符
2010/11/16 Javascript
一个js导致的jquery失效问题的解决方法
2013/11/27 Javascript
jquery的ajax和getJson跨域获取json数据的实现方法
2014/02/04 Javascript
JavaScript关闭当前页面(窗口)不带任何提示
2014/03/26 Javascript
javascript实现网页屏蔽Backspace事件,输入框不屏蔽
2015/07/21 Javascript
js window对象属性和方法相关资料整理
2015/11/11 Javascript
Bootstrap导航条可点击和鼠标悬停显示下拉菜单
2016/11/25 Javascript
JavaScript实现格式化字符串函数String.format
2016/12/16 Javascript
js使用Promise实现简单的Ajax缓存
2018/11/14 Javascript
微信小程序select下拉框实现效果
2019/05/15 Javascript
学习LayUI时自研的表单参数校验框架案例分析
2019/07/29 Javascript
让你30分钟快速掌握vue3教程
2020/10/26 Javascript
Vertx基于EventBus发送接受自定义对象
2020/11/16 Javascript
Python的ORM框架SQLAlchemy入门教程
2014/04/28 Python
Python字符串拼接、截取及替换方法总结分析
2016/04/13 Python
Python实现的字典值比较功能示例
2018/01/08 Python
Python + Requests + Unittest接口自动化测试实例分析
2019/12/12 Python
Tensorflow限制CPU个数实例
2020/02/06 Python
印尼最大的婴儿用品购物网站:Orami
2017/09/28 全球购物
李宁官方网店:中国运动品牌
2017/11/02 全球购物
求高于平均分的学生学号及成绩
2016/09/01 面试题
Servlet面试题库
2015/07/18 面试题
模具数控专业自荐信
2014/01/27 职场文书
亲子读书活动方案
2014/02/22 职场文书
酒店员工职业生涯规划
2014/02/25 职场文书
南京青奥会口号
2014/06/12 职场文书
节能环保演讲稿
2014/08/28 职场文书
党支部班子“四风”问题自我剖析材料
2014/09/28 职场文书
优秀团支部申报材料
2014/12/26 职场文书
Python获取江苏疫情实时数据及爬虫分析
2021/08/02 Python
MySQL 原理优化之Group By的优化技巧
2022/08/14 MySQL