php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
PHP.MVC的模板标签系统(三)
Sep 05 PHP
phpMyAdmin出现无法载入 mcrypt 扩展,请检查PHP配置的解决方法
Mar 26 PHP
用PHP即时捕捉PHP中的错误并发送email通知的实现代码
Jan 19 PHP
php取整函数ceil,floo,round的用法及介绍
Aug 31 PHP
关于URL最大长度限制的相关资料查证
Dec 23 PHP
php制作动态随机验证码
Feb 12 PHP
php使用数组填充下拉列表框的方法
Mar 31 PHP
给PHP开发者的编程指南 第一部分降低复杂程度
Jan 18 PHP
PHP和MYSQL实现分页导航思路详解
Apr 11 PHP
php 7新特性之类型申明详解
Jun 06 PHP
PHP小白必须要知道的php基础知识(超实用)
Oct 10 PHP
详解PHP变量传值赋值和引用赋值变量销毁
Mar 23 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
php通过修改header强制图片下载的方法
2015/03/24 PHP
PHP PDOStatement::bindValue讲解
2019/01/30 PHP
超越Jquery_01_isPlainObject分析与重构
2010/10/20 Javascript
JavaScript中去掉数组中的重复值的实现方法
2011/08/03 Javascript
Jquery ajax执行顺序 返回自定义错误信息(实例讲解)
2013/11/06 Javascript
jquery.form.js用法之清空form的方法
2014/03/07 Javascript
javascript + jquery实现定时修改文章标题
2014/03/19 Javascript
window.location不跳转的问题解决方法
2014/04/17 Javascript
JavaScript返回上一页的三种方法及区别介绍
2015/07/04 Javascript
nodejs个人博客开发第五步 分配数据
2017/04/12 NodeJs
JavaScrpt中如何使用 cookie 设置查看与删除功能
2017/07/09 Javascript
JavaScript数据结构与算法之队列原理与用法实例详解
2017/11/22 Javascript
HTML5+JS+JQuery+ECharts实现异步加载问题
2017/12/16 jQuery
JS实现匀速与减速缓慢运动的动画效果封装示例
2018/08/27 Javascript
javascript实现简易数码时钟
2020/03/30 Javascript
vue实现用户长时间不操作自动退出登录功能的实现代码
2020/07/23 Javascript
利用JavaScript模拟京东按键输入功能
2020/12/01 Javascript
Python 命令行非阻塞输入的小例子
2013/09/27 Python
Django的URLconf中使用缺省视图参数的方法
2015/07/18 Python
Python编程中使用Pillow来处理图像的基础教程
2015/11/20 Python
在Linux系统上部署Apache+Python+Django+MySQL环境
2015/12/24 Python
Python批量提取PDF文件中文本的脚本
2018/03/14 Python
Python 通过打码平台实现验证码的实现
2019/05/13 Python
python网络应用开发知识点浅析
2019/05/28 Python
Python实现像awk一样分割字符串
2020/09/15 Python
python 对一幅灰度图像进行直方图均衡化
2020/10/27 Python
阿迪达斯意大利在线商店:adidas意大利
2016/09/19 全球购物
Mio Skincare法国官网:身体紧致及孕期身体护理
2018/04/04 全球购物
为什么UNION ALL比UNION快
2016/03/17 面试题
钳工实习自我鉴定
2013/09/19 职场文书
2014年学习部工作总结
2014/11/12 职场文书
写给女朋友的检讨书
2015/05/06 职场文书
刑事撤诉申请书
2015/05/18 职场文书
解读MySQL的客户端和服务端协议
2021/05/10 MySQL
详解Redis集群搭建的三种方式
2021/05/31 Redis
Linux下使用C语言代码搭建一个简单的HTTP服务器
2022/04/13 Servers