php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
探讨方法的重写(覆载)详解
Jun 08 PHP
php中rename函数用法分析
Nov 15 PHP
PHP中异常处理的一些方法整理
Jul 03 PHP
Laravel5.1数据库连接、创建数据库、创建model及创建控制器的方法
Mar 29 PHP
php反射类ReflectionClass用法分析
May 12 PHP
phpMyAdmin无法登陆的解决方法
Apr 27 PHP
ThinkPHP下表单令牌错误与解决方法分析
May 20 PHP
PHP simplexml_load_file()函数讲解
Feb 03 PHP
PHP的静态方法与普通方法用法实例分析
Sep 26 PHP
Thinkphp框架使用list_to_tree 实现无限级分类列出所有节点示例
Apr 04 PHP
PHP如何使用cURL实现Get和Post请求
Jul 11 PHP
php中pcntl_fork详解
Apr 01 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
PHP处理二进制数据的实现方法
2016/06/13 PHP
在Thinkphp中使用ajax实现无刷新分页的方法
2016/10/25 PHP
Yii框架弹出框功能示例
2017/01/07 PHP
基于Laravel5.4实现多字段登录功能方法示例
2017/08/11 PHP
jquery 模拟雅虎首页的点击对话框效果
2010/04/11 Javascript
深入理解JavaScript系列(1) 编写高质量JavaScript代码的基本要点
2012/01/15 Javascript
验证码在IE中不刷新而谷歌等浏览器正常的解决方案
2014/03/18 Javascript
jquery动感漂浮导航菜单代码分享
2020/04/15 Javascript
javascript中tostring()和valueof()的用法及两者的区别
2015/11/16 Javascript
JavaScript实现点击按钮字体放大、缩小
2016/02/29 Javascript
深入理解Vue 单向数据流的原理
2017/11/09 Javascript
web前端vue之vuex单独一文件使用方式实例详解
2018/01/11 Javascript
vue 自定义 select内置组件
2018/04/10 Javascript
koa router 多文件引入的方法示例
2019/05/22 Javascript
监控Nodejs的性能实例代码
2019/07/02 NodeJs
ionic2.0双击返回键退出应用
2019/09/17 Javascript
微信小程序 wx:for 与 wx:for-items 与 wx:key的正确用法
2020/05/19 Javascript
Python简单计算文件夹大小的方法
2015/07/14 Python
Python图算法实例分析
2016/08/13 Python
Python列表list操作符实例分析【标准类型操作符、切片、连接字符、列表解析、重复操作等】
2017/07/24 Python
Python3实现的简单工资管理系统示例
2019/03/12 Python
Python3.0中普通方法、类方法和静态方法的比较
2019/05/03 Python
在ipython notebook中使用argparse方式
2020/04/20 Python
python异步Web框架sanic的实现
2020/04/27 Python
django使用多个数据库的方法实例
2021/03/04 Python
香港永安旅游网:Wing On Travel
2017/04/10 全球购物
2014年道德讲堂实施方案
2014/03/05 职场文书
2014年度安全工作总结
2014/12/04 职场文书
二年级上册数学教学计划
2015/01/20 职场文书
医生个人年度总结
2015/02/28 职场文书
专业技术职务聘任证明
2015/03/02 职场文书
倡议书怎么写?
2019/04/11 职场文书
CSS几步实现赛博朋克2077风格视觉效果
2021/06/16 HTML / CSS
Alexa停服!网站排名将何去何从?目前还没有替代品。
2022/04/15 杂记
Python中使用tkFileDialog实现文件选择、保存和路径选择
2022/05/20 Python
Python面试不修改数组找出重复的数字
2022/05/20 Python