php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
echo(),print(),print_r()之间的区别?
Nov 19 PHP
php统计文件大小,以GB、MB、KB、B输出
May 29 PHP
PHP遍历某个目录下的所有文件和子文件夹的实现代码
Jun 28 PHP
windows下配置apache+php+mysql时出现问题的处理方法
Jun 20 PHP
thinkphp获取栏目和文章当前位置的方法
Oct 29 PHP
PHP 验证登陆类分享
Mar 13 PHP
大家都应该掌握的PHP关联数组使用技巧
Dec 25 PHP
在Mac OS上编译安装Nginx+PHP+MariaDB开发环境的教程
Feb 23 PHP
[原创]php求圆周率的简单实现方法
May 30 PHP
2017年最新PHP经典面试题目汇总(上篇)
Mar 17 PHP
PHP实现微信红包金额拆分试玩的算法示例
Apr 07 PHP
PHP实现的超长文本分页显示功能示例
Jun 04 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
PHP4在Windows2000下的安装
2006/10/09 PHP
用php将任何格式视频转为flv的代码
2009/09/03 PHP
php 广告调用类代码(支持Flash调用)
2011/08/11 PHP
php截取字符串函数分享
2015/02/02 PHP
php模拟服务器实现autoindex效果的方法
2015/03/10 PHP
PHP实现WebService的简单示例和实现步骤
2015/03/27 PHP
php类自动加载器实现方法
2015/07/28 PHP
PHP中CheckBox多选框上传失败的代码写法
2017/02/13 PHP
javascript 图片上传预览-兼容标准
2009/06/01 Javascript
框架页面高度自动刷新的Javascript脚本
2013/11/01 Javascript
jquery对单选框,多选框,文本框等常见操作小结
2014/01/08 Javascript
通过onmouseover选项卡实现img图片的变化
2014/02/12 Javascript
使表格的标题列可左右拉伸jquery插件封装
2014/11/24 Javascript
在JavaScript中处理字符串之link()方法的使用
2015/06/08 Javascript
JavaScript中的时间处理小结
2016/02/24 Javascript
jQuery插件HighCharts绘制2D带有Legend的饼图效果示例【附demo源码下载】
2017/03/10 Javascript
vue微信分享 vue实现当前页面分享其他页面
2017/12/02 Javascript
详解vue使用vue-layer-mobile组件实现toast,loading效果
2018/08/31 Javascript
深入解析ES6中的promise
2018/11/08 Javascript
Vue使用watch监听一个对象中的属性的实现方法
2019/05/10 Javascript
vue用elementui写form表单时,在label里添加空格操作
2020/08/13 Javascript
[03:39]2015国际邀请赛主赛事首日精彩回顾
2015/08/05 DOTA
Python读取指定目录下指定后缀文件并保存为docx
2017/04/23 Python
Python爬虫DOTA排行榜爬取实例(分享)
2017/06/13 Python
Python处理中文标点符号大集合
2018/05/14 Python
python pcm音频添加头转成Wav格式文件的方法
2019/01/09 Python
Python pandas.DataFrame 找出有空值的行
2019/09/09 Python
python生成任意频率正弦波方式
2020/02/25 Python
Python confluent kafka客户端配置kerberos认证流程详解
2020/10/12 Python
浅谈css3中的前缀
2016/07/20 HTML / CSS
兰蔻加拿大官方网站:Lancome加拿大
2016/08/05 全球购物
天巡全球:Skyscanner Global
2017/06/20 全球购物
编写一子程序,将一链表倒序,即使链表表尾变表头,表头变表尾
2016/02/10 面试题
入职担保书范文
2014/05/21 职场文书
早读课迟到检讨书
2014/09/25 职场文书
Python os和os.path模块详情
2022/04/02 Python