php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
php mssql 时间格式问题
Jan 13 PHP
解析centos中Apache、php、mysql 默认安装路径
Jun 25 PHP
PHP_SELF,SCRIPT_NAME,REQUEST_URI区别
Dec 24 PHP
PHP读取汉字的点阵数据
Jun 22 PHP
用HTML/JS/PHP方式实现页面延时跳转的简单实例
Jul 18 PHP
Yii实现文章列表置顶功能示例
Oct 18 PHP
php的PDO事务处理机制实例分析
Feb 16 PHP
Yii2框架中日志的使用方法分析
May 22 PHP
php 算法之实现相对路径的实例
Oct 17 PHP
让Laravel API永远返回JSON格式响应的方法示例
Sep 05 PHP
PHP的HTTP客户端Guzzle简单使用方法分析
Oct 30 PHP
php使用自带dom扩展进行元素匹配的原理解析
May 29 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
深入apache配置文件httpd.conf的部分参数说明
2013/06/28 PHP
php实现数组中索引关联数据转换成json对象的方法
2015/07/08 PHP
PHP中字符串长度的截取用法示例
2017/01/12 PHP
js类后台管理菜单类-MenuSwitch
2007/09/12 Javascript
javaScript 数值型和字符串型之间的转换
2009/07/25 Javascript
jquery 最简单的属性菜单
2009/10/08 Javascript
在UpdatePanel内jquery easyui效果失效的解决方法
2010/04/11 Javascript
浅析javascript闭包 实例分析
2010/12/25 Javascript
用客户端js实现带省略号的分页
2013/04/27 Javascript
JS中判断JSON数据是否存在某字段的方法
2014/03/07 Javascript
JS字符串拼接在ie中都报错的解决方法
2014/03/27 Javascript
Bootstrap每天必学之栅格系统(布局)
2015/11/25 Javascript
JavaScript中的return语句简单介绍
2015/12/07 Javascript
XML、HTML、CSS与JS的区别整理
2016/02/18 Javascript
js删除局部变量的实现方法
2016/06/25 Javascript
JQuery组件基于Bootstrap的DropDownList(完整版)
2016/07/05 Javascript
AngularJS 与Bootstrap实现表格分页实例代码
2016/10/14 Javascript
微信小程序 如何引入外部字体库iconfont的图标
2018/01/31 Javascript
尝试自己动手用react来写一个分页组件(小结)
2018/02/09 Javascript
js如何找出字符串中的最长回文串
2018/06/04 Javascript
微信小程序动态设置图片大小的方法
2019/11/21 Javascript
JS this关键字在ajax中使用出现问题解决方案
2020/07/17 Javascript
Python中利用xpath解析HTML的方法
2018/05/14 Python
利用python画出折线图
2018/07/26 Python
使用Python的datetime库处理时间(RPA流程)
2019/11/24 Python
CSS3 滤镜 webkit-filter详细介绍及使用方法
2012/12/27 HTML / CSS
西班牙英格列斯百货英国官网:El Corte Inglés英国
2017/10/30 全球购物
木工主管岗位职责
2013/12/08 职场文书
元旦联欢会感言
2014/03/04 职场文书
大班上学期幼儿评语
2014/04/30 职场文书
2014大学校园光棍节活动策划书
2014/09/29 职场文书
预备党员转正党小组意见
2015/06/01 职场文书
《桂花雨》教学反思
2016/02/19 职场文书
2016年法制宣传月活动总结
2016/04/01 职场文书
oracle表分区的概念及操作
2021/04/24 Oracle
微信告警的zabbix监控系统 监控整个NGINX集群
2022/04/18 Servers