php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
php ci框架验证码实例分析
Jun 26 PHP
php将url地址转化为完整的a标签链接代码(php为url地址添加a标签)
Jan 17 PHP
php使用imagick模块实现图片缩放、裁剪、压缩示例
Apr 17 PHP
PHP多进程编程实例
Oct 15 PHP
PHP实现模仿socket请求返回页面的方法
Nov 04 PHP
php针对cookie操作的队列操作类实例
Dec 10 PHP
PHP实现格式化文件数据大小显示的方法
Jan 03 PHP
centos7上编译安装php7以php-fpm方式连接apache
Nov 08 PHP
PHP filesize函数用法浅析
Feb 15 PHP
PHP从零开始打造自己的MVC框架之路由类实现方法分析
Jun 03 PHP
php服务器的系统详解
Oct 12 PHP
详解thinkphp的Auth类认证
May 28 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
漫威DC即将合作联动,而双方早已经秘密开始
2020/04/09 欧美动漫
PHP+Ajax实现的检测用户名功能简单示例
2019/02/12 PHP
Javascript里使用Dom操作Xml
2007/01/22 Javascript
IE6图片加载的一个BUG解决方法
2010/07/13 Javascript
flexigrid 类似ext grid的JS表格代码
2010/07/17 Javascript
浏览器打开层自动缓慢展开收缩实例代码
2013/07/04 Javascript
判断JS对象是否拥有某种属性的两种方式
2013/12/02 Javascript
JavaScript跨域方法汇总
2014/10/16 Javascript
禁止按回车键提交表单的方法
2015/06/11 Javascript
jQuery表单验证功能实例
2015/08/28 Javascript
scroll事件实现监控滚动条并分页显示(zepto.js)
2016/12/18 Javascript
React Native基础入门之调试React Native应用的一小步
2018/07/02 Javascript
vue仿element实现分页器效果
2018/09/13 Javascript
详解如何在Node.js的httpServer中接收前端发送的arraybuffer数据
2018/11/11 Javascript
Vue项目引进ElementUI组件的方法
2018/11/11 Javascript
解决vue使用vant下拉框van-dropdown-item 绑定title值不变问题
2020/08/05 Javascript
js实现日历
2020/11/07 Javascript
[07:59]2014DOTA2叨叨刀塔 林熊猫称被邀请赛现场盛况震撼
2014/07/21 DOTA
[00:34]TI7不朽珍藏III——地穴编织者不朽展示
2017/07/15 DOTA
Python getopt模块处理命令行选项实例
2014/05/13 Python
Python 时间戳之获取整点凌晨时间戳的操作方法
2020/01/28 Python
python GUI库图形界面开发之PyQt5不规则窗口实现与显示GIF动画的详细方法与实例
2020/03/09 Python
CSS3媒体查询Media Queries基础学习教程
2016/02/29 HTML / CSS
基于Modernizr 让网站进行优雅降级的分析
2013/04/21 HTML / CSS
美国网上购买眼镜:Eyeconic
2017/07/29 全球购物
完美实现CSS垂直居中的11种方法
2021/03/27 HTML / CSS
信息技术教学反思
2014/02/12 职场文书
统计岗位职责
2014/02/21 职场文书
人力资源主管职责范本
2014/03/05 职场文书
公司晚会主持词
2014/03/22 职场文书
教师工作自我鉴定范文
2014/09/14 职场文书
教师作风整顿个人剖析材料
2014/10/10 职场文书
兵马俑导游词
2015/02/02 职场文书
初中教师个人工作总结
2015/02/10 职场文书
企业党员岗位承诺书
2015/04/27 职场文书
幼儿教师远程研修感悟
2015/11/18 职场文书