php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
PHP 得到根目录的 __FILE__ 常量
Jul 23 PHP
限制ckeditor上传图片文件大小的方法
Nov 15 PHP
thinkphp实现面包屑导航(当前位置)例子分享
May 10 PHP
从零开始学YII2框架(三)扩展插件yii2-gird
Aug 20 PHP
php中file_get_contents与curl性能比较分析
Nov 08 PHP
php支持中文字符串分割的函数
May 28 PHP
在Windows系统下使用PHP生成Word文档的教程
Jul 03 PHP
php实现图片上传并利用ImageMagick生成缩略图
Mar 14 PHP
thinkphp整合微信支付代码分享
Nov 24 PHP
PHP实现双链表删除与插入节点的方法示例
Nov 11 PHP
学习thinkphp5.0验证类使用方法
Nov 16 PHP
php使用自带dom扩展进行元素匹配的原理解析
May 29 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
桌面中心(三)修改数据库
2006/10/09 PHP
QQ登录 PHP OAuth示例代码
2011/07/20 PHP
防止本地用户用fsockopen DDOS攻击对策
2011/11/02 PHP
php自定义类fsocket模拟post或get请求的方法
2015/07/31 PHP
Symfony2中被遗弃的getRequest()方法分析
2016/03/17 PHP
微信支付开发发货通知实例
2016/07/12 PHP
Yii2中事务的使用实例代码详解
2016/09/07 PHP
ThinkPHP 整合Bootstrap Ajax分页样式
2016/12/23 PHP
PHP获取当前系统时间的方法小结
2018/10/03 PHP
PHP使用Redis实现Session共享的实现示例
2019/05/12 PHP
正则表达式判断是否存在中文和全角字符和判断包含中文字符串长度
2008/09/27 Javascript
JQuery 学习笔记 element属性控制
2009/07/23 Javascript
js的hasownproperty使用示例
2014/03/02 Javascript
Javascript判断文件是否存在(客户端/服务器端)
2014/09/16 Javascript
基于AngularJS前端云组件最佳实践
2016/10/20 Javascript
详解Javascript百度地图接口开发文档中的类和方法
2017/02/07 Javascript
angular ng-click防止重复提交实例
2017/06/16 Javascript
vue.js模仿京东省市区三级联动的选择组件实例代码
2017/11/22 Javascript
Javascript获取某个月的天数
2018/05/30 Javascript
Vue页面切换和a链接的本质区别详解
2019/11/12 Javascript
vue-cli3中配置alias和打包加hash值操作
2020/09/04 Javascript
python实现跨文件全局变量的方法
2014/07/07 Python
python实现感知机线性分类模型示例代码
2019/06/02 Python
python基于plotly实现画饼状图代码实例
2019/12/16 Python
PIL.Image.open和cv2.imread的比较与相互转换的方法
2020/06/03 Python
CSS Houdini实现动态波浪纹效果
2019/07/30 HTML / CSS
美国地毯购买网站:Rugs USA
2019/02/23 全球购物
node中使用shell脚本的方法步骤
2021/03/23 Javascript
加拿大探亲邀请信
2014/01/28 职场文书
百年校庆节目主持词
2014/03/27 职场文书
精神文明建设先进工作者事迹材料
2014/05/02 职场文书
房屋鉴定委托书范本
2014/09/23 职场文书
省委召开党的群众路线教育实践活动总结大会报告
2014/10/21 职场文书
2014年扫黄打非工作总结
2014/12/03 职场文书
2015秋季开学典礼致辞
2015/07/16 职场文书
Vue中Object.assign清空数据报错的解决方案
2022/03/03 Vue.js