php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
file_get_contents获取不到网页内容的解决方法
Mar 07 PHP
php登陆页的密码处理方式分享
Oct 14 PHP
php常用hash加密函数
Nov 22 PHP
学习php开源项目的源码指南
Dec 21 PHP
windows下配置php5.5开发环境及开发扩展
Dec 25 PHP
php读取csc文件并输出
May 21 PHP
PHP文件操作方法汇总
Jul 01 PHP
php实现爬取和分析知乎用户数据
Jan 26 PHP
PHP中的表达式简述
May 29 PHP
php版微信公众平台接口开发之智能回复开发教程
Sep 22 PHP
使用ucenter实现多站点同步登录的讲解
Mar 21 PHP
TP5框架实现自定义分页样式的方法示例
Apr 05 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
不用GD库生成当前时间的PNG格式图象的程序
2006/10/09 PHP
php产生随机数的两种方法实例代码 输出随机IP
2011/04/08 PHP
PHP生成sitemap.xml地图函数
2013/11/13 PHP
PHP递归复制、移动目录的自定义函数分享
2014/11/18 PHP
php注册和登录界面的实现案例(推荐)
2016/10/24 PHP
php导出csv文件,可导出前导0实例代码
2016/11/16 PHP
VBScript版代码高亮
2006/06/26 Javascript
js getBoundingClientRect() 来获取页面元素的位置
2010/11/25 Javascript
node.js中的fs.fsync方法使用说明
2014/12/15 Javascript
Javascript 正则表达式实现为数字添加千位分隔符
2015/03/10 Javascript
Js和JQuery获取鼠标指针坐标的实现代码分享
2015/05/25 Javascript
js实现无限级树形导航列表效果代码
2015/09/23 Javascript
jQuery简单实现列表隐藏和显示效果示例
2016/09/12 Javascript
自己封装的一个简单的倒计时功能实例
2016/11/23 Javascript
微信小程序 九宫格实例代码
2017/01/21 Javascript
详解使用JS如何制作简单的ASCII图与单极图
2017/03/31 Javascript
详解Vue中使用v-for语句抛出错误的解决方案
2017/05/04 Javascript
vue项目优化之通过keep-alive数据缓存的方法
2017/12/11 Javascript
通过实例讲解JS如何防抖动
2019/06/15 Javascript
vue-devtools的安装和使用步骤详解
2019/10/17 Javascript
安装多版本Vue-CLI的实现方法
2020/03/24 Javascript
vue+iview实现分页及查询功能
2020/11/17 Vue.js
使用Python的Twisted框架实现一个简单的服务器
2015/04/16 Python
Djang中静态文件配置方法
2015/07/30 Python
Python探索之ModelForm代码详解
2017/10/26 Python
教你用 Python 实现微信跳一跳(Mac+iOS版)
2018/01/04 Python
python实现教务管理系统
2018/03/12 Python
详解Python 定时框架 Apscheduler原理及安装过程
2019/06/14 Python
python如何把字符串类型list转换成list
2020/02/18 Python
python基于pexpect库自动获取日志信息
2021/02/01 Python
中间件分为哪几类
2016/09/18 面试题
法学毕业生自我鉴定
2014/01/31 职场文书
个人政风行风自查自纠报告
2014/10/21 职场文书
2015建军节87周年演讲稿
2015/03/19 职场文书
2015年售后服务工作总结
2015/04/25 职场文书
党员证明信
2015/06/19 职场文书