php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
ADODB类使用
Nov 25 PHP
PHP extract 将数组拆分成多个变量的函数
Jun 30 PHP
rrmdir php中递归删除目录及目录下的文件
May 15 PHP
php中将指针移动到数据集初始位置的实现代码[mysql_data_seek]
Nov 01 PHP
destoon调用企业会员公司形象图片的实现方法
Aug 21 PHP
php实现根据url自动生成缩略图的方法
Sep 23 PHP
smarty内置函数foreach用法实例
Jan 22 PHP
PHP实现即时输出、实时输出内容方法
May 27 PHP
Thinkphp单字母函数使用指南
May 08 PHP
Smarty模板变量调节器用法分析
May 23 PHP
PHP yield关键字功能与用法分析
Jan 03 PHP
Windows上php5.6操作mongodb数据库示例【配置、连接、获取实例】
Feb 13 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
防止用户利用PHP代码DOS造成用光网络带宽
2011/03/01 PHP
php调整gif动画图片尺寸示例代码分享
2013/12/05 PHP
centos+php+coreseek+sphinx+mysql之一coreseek安装篇
2016/10/25 PHP
PHP实现非阻塞模式的方法分析
2018/07/26 PHP
PHP中soap用法示例【SoapServer服务端与SoapClient客户端编写】
2018/12/25 PHP
php和redis实现秒杀活动的流程
2019/07/17 PHP
用JQuery 判断某个属性是否存在hasAttr的解决方法
2013/04/26 Javascript
Javascript和Java获取各种form表单信息的简单实例
2014/02/14 Javascript
用js传递value默认值的示例代码
2014/09/11 Javascript
Javascript基础教程之数组 array
2015/01/18 Javascript
php常见的页面跳转方法汇总
2015/04/15 Javascript
如何防止JavaScript自动插入分号
2015/11/05 Javascript
Bootstrap多级菜单的实现代码
2017/05/23 Javascript
JS判断非空至少输入两个字符的简单实现方法
2017/06/23 Javascript
Vue Element使用icon图标教程详解(第三方)
2018/02/07 Javascript
Express进阶之log4js实用入门指南
2018/02/10 Javascript
解决vue中使用proxy配置不同端口和ip接口问题
2019/08/14 Javascript
python3中str(字符串)的使用教程
2017/03/23 Python
Python编写合并字典并实现敏感目录的小脚本
2019/02/26 Python
Python函数定义及传参方式详解(4种)
2019/03/18 Python
用Python批量把文件复制到另一个文件夹的实现方法
2019/08/16 Python
python生成器/yield协程/gevent写简单的图片下载器功能示例
2019/10/28 Python
Python GUI自动化实现绕过验证码登录
2020/01/10 Python
python MultipartEncoder传输zip文件实例
2020/04/07 Python
python numpy库np.percentile用法说明
2020/06/08 Python
通过CSS3的object-fit来调整图片适配尺寸的技巧简介
2016/02/27 HTML / CSS
快速实现一个简单的canvas迷宫游戏的示例
2018/07/04 HTML / CSS
Max&Co官网:意大利年轻女性时尚品牌
2017/05/16 全球购物
护士辞职信范文
2014/01/19 职场文书
《长城》教学反思
2014/02/14 职场文书
2014党员批评和自我批评思想汇报
2014/09/21 职场文书
教师党员自我评议不足范文
2014/10/19 职场文书
绵山导游词
2015/02/05 职场文书
银行求职自荐信范文
2015/03/04 职场文书
vue3如何优雅的实现移动端登录注册模块
2021/03/29 Vue.js
python 爬取哔哩哔哩up主信息和投稿视频
2021/06/07 Python