php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
在服务端进行目录建立、删除,文件上传、删除的过程的php代码
Sep 10 PHP
mysql总结之explain
Feb 27 PHP
PHP flock 文件锁详细介绍
Dec 29 PHP
最常用的8款PHP调试工具
Jul 06 PHP
基础的WordPress插件制作教程
Nov 24 PHP
Laravel使用Caching缓存数据减轻数据库查询压力的方法
Mar 15 PHP
Laravel 5.3 学习笔记之 配置
Aug 28 PHP
PHP+iframe图片上传实现即时刷新效果
Nov 18 PHP
thinkPHP实现多字段模糊匹配查询的方法
Dec 01 PHP
php unlink()函数使用教程
Jul 12 PHP
在laravel中使用with实现动态添加where条件
Oct 10 PHP
PHP实现微信提现功能(微信商城)
Nov 21 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
phpMyAdmin 安装教程全攻略
2007/03/19 PHP
PHP脚本监控Nginx 502错误并自动重启php-fpm
2015/05/13 PHP
WordPress中获取指定分类及其子分类下的文章数目
2015/12/31 PHP
php文档工具PHP Documentor安装与使用方法
2016/01/25 PHP
浅谈PHP发送HTTP请求的几种方式
2017/07/25 PHP
详解在YII2框架中使用UEditor编辑器发布文章
2018/11/02 PHP
PHP使用HTML5 FileApi实现Ajax上传文件功能示例
2019/07/01 PHP
thinkphp5.1 框架导入/导出excel文件操作示例
2020/05/25 PHP
javascript实现面向对象类的功能书写技巧
2010/03/07 Javascript
Jquery submit()无法提交问题
2013/04/21 Javascript
如何让页面加载完成后执行js
2013/06/26 Javascript
js 数组操作之pop,push,unshift,splice,shift
2014/01/29 Javascript
在for循环中length值是否需要缓存
2015/07/27 Javascript
js实现超简单的展开、折叠目录代码
2015/08/28 Javascript
JavaScript构造函数详解
2015/12/27 Javascript
JavaScript验证知识整理
2017/03/24 Javascript
React.Js添加与删除onScroll事件的方法详解
2017/11/03 Javascript
Vue2.0实现组件数据的双向绑定问题
2018/03/06 Javascript
详解javascript replace高级用法
2019/02/17 Javascript
layui 动态设置checbox 选中状态的例子
2019/09/02 Javascript
[01:03:38]2014 DOTA2国际邀请赛中国区预选赛5.21 CNB VS CIS
2014/05/22 DOTA
[57:28]2018DOTA2亚洲邀请赛 4.6 淘汰赛 TNC vs Liquid 第一场
2018/04/10 DOTA
用Python从零实现贝叶斯分类器的机器学习的教程
2015/03/31 Python
利用Python实现Windows定时关机功能
2017/03/21 Python
Python实现发送QQ邮件的封装
2017/07/14 Python
Python装饰器原理与基本用法分析
2020/01/07 Python
Python批量安装卸载1000个apk的方法
2020/04/10 Python
终于搞懂了Keras中multiloss的对应关系介绍
2020/06/22 Python
基于python实现简单网页服务器代码实例
2020/09/14 Python
整理的15个非常有用的 HTML5 开发教程和速查手册
2011/10/18 HTML / CSS
《乌塔》教学反思
2014/02/17 职场文书
主管竞聘书范文
2014/03/31 职场文书
员工保密承诺书
2014/05/28 职场文书
亚运会口号
2014/06/20 职场文书
大学生个人求职信例文
2014/07/07 职场文书
刑事起诉书范文
2015/05/19 职场文书