如何让搜索引擎抓取AJAX内容解决方案


Posted in PHP onAugust 25, 2014

越来越多的网站,开始采用"单页面结构"(Single-page application)。

整个网站只有一张网页,采用Ajax技术,根据用户的输入,加载不同的内容。

如何让搜索引擎抓取AJAX内容解决方案

这种做法的好处是用户体验好、节省流量,缺点是AJAX内容无法被搜索引擎抓取。举例来说,你有一个网站。

http://example.com

用户通过井号结构的URL,看到不同的内容。

http://example.com#1
http://example.com#2
http://example.com#3

但是,搜索引擎只抓取example.com,不会理会井号,因此也就无法索引内容。

为了解决这个问题,Google提出了"井号+感叹号"的结构。

http://example.com#!1

当Google发现上面这样的URL,就自动抓取另一个网址:

http://example.com/?_escaped_fragment_=1

只要你把AJAX内容放在这个网址,Google就会收录。但是问题是,"井号+感叹号"非常难看且烦琐。Twitter曾经采用这种结构,它把

http://twitter.com/ruanyf

改成

http://twitter.com/#!/ruanyf

结果用户抱怨连连,只用了半年就废除了。

那么,有没有什么方法,可以在保持比较直观的URL的同时,还让搜索引擎能够抓取AJAX内容?

我一直以为没有办法做到,直到前两天看到了Discourse创始人之一的Robin Ward的解决方法,不禁拍案叫绝。

如何让搜索引擎抓取AJAX内容解决方案

Discourse是一个论坛程序,严重依赖Ajax,但是又必须让Google收录内容。它的解决方法就是放弃井号结构,采用 History API。

所谓 History API,指的是不刷新页面的情况下,改变浏览器地址栏显示的URL(准确说,是改变网页的当前状态)。这里有一个例子,你点击上方的按钮,开始播放音乐。然后,再点击下面的链接,看看发生了什么事?

如何让搜索引擎抓取AJAX内容解决方案

地址栏的URL变了,但是音乐播放没有中断!

History API 的详细介绍,超出这篇文章的范围。这里只简单说,它的作用就是在浏览器的History对象中,添加一条记录。

window.history.pushState(state object, title, url);

上面这行命令,可以让地址栏出现新的URL。History对象的pushState方法接受三个参数,新的URL就是第三个参数,前两个参数都可以是null。

window.history.pushState(null, null, newURL);

目前,各大浏览器都支持这个方法:Chrome(26.0+),Firefox(20.0+),IE(10.0+),Safari(5.1+),Opera(12.1+)。

下面就是Robin Ward的方法。

首先,用History API替代井号结构,让每个井号都变成正常路径的URL,这样搜索引擎就会抓取每一个网页。

example.com/1
example.com/2
example.com/3

然后,定义一个JavaScript函数,处理Ajax部分,根据网址抓取内容(假定使用jQuery)。

function anchorClick(link) {

var linkSplit = link.split('/').pop();


$.get('api/' + linkSplit, function(data) {



$('#content').html(data);


});

}

再定义鼠标的click事件。

$('#container').on('click', 'a', function(e) {


window.history.pushState(null, null, $(this).attr('href'));


anchorClick($(this).attr('href'));


e.preventDefault();

});

还要考虑到用户点击浏览器的"前进 / 后退"按钮。这时会触发History对象的popstate事件。

window.addEventListener('popstate', function(e) {     


anchorClick(location.pathname);  
 
});

定义完上面三段代码,就能在不刷新页面的情况下,显示正常路径URL和AJAX内容。

最后,设置服务器端。

因为不使用井号结构,每个URL都是一个不同的请求。所以,要求服务器端对所有这些请求,都返回如下结构的网页,防止出现404错误。

<html>


<body>



<section id='container'></section>



<noscript>




... ...
 


</noscript>


</body>

</html>

仔细看上面这段代码,你会发现有一个noscript标签,这就是奥妙所在。

我们把所有要让搜索引擎收录的内容,都放在noscript标签之中。这样的话,用户依然可以执行AJAX操作,不用刷新页面,但是搜索引擎会收录每个网页的主要内容!

PHP 相关文章推荐
apache+mysql+php+ssl服务器之完全安装攻略
Sep 05 PHP
简单的过滤字符串中的HTML标记
Dec 25 PHP
PHP生成HTML静态页面实例代码
Aug 31 PHP
PHP通过header实现文本文件下载的代码
Aug 08 PHP
配置php.ini实现PHP文件上传功能
Nov 27 PHP
yii2.0整合阿里云oss的示例代码
Sep 19 PHP
浅谈PHP封装CURL
Mar 06 PHP
PHP面向对象程序设计中的self、static、parent关键字用法分析
Aug 14 PHP
Laravel 微信小程序后端实现用户登录的示例代码
Nov 26 PHP
详解PHP中curl_multi并发的实现
Jun 08 PHP
PHP接入支付宝接口失效流程详解
Nov 10 PHP
微信小程序结合ThinkPHP5授权登陆后获取手机号
Nov 23 PHP
使用php方法curl抓取AJAX异步内容思路分析及代码分享
Aug 25 #PHP
简单分析ucenter 会员同步登录通信原理
Aug 25 #PHP
ThinkPHP调用common/common.php函数提示错误function undefined的解决方法
Aug 25 #PHP
ThinkPHP查询返回简单字段数组的方法
Aug 25 #PHP
php防止伪造数据从地址栏URL提交的方法
Aug 24 #PHP
php批量删除数据库下指定前缀的表以prefix_为例
Aug 24 #PHP
一个图片地址分解程序(用于PHP小偷程序)
Aug 23 #PHP
You might like
PHP 截取字符串专题集合
2010/08/19 PHP
解析PHP缓存函数的使用说明
2013/05/10 PHP
PHP中通过getopt解析GNU C风格命令行选项
2019/11/18 PHP
用 Javascript 验证表单(form)中多选框(checkbox)值
2009/09/08 Javascript
javascript天然的迭代器
2010/10/29 Javascript
jQuery实现页面滚动时层智能浮动定位实例探讨
2013/03/29 Javascript
javascript 终止函数执行操作
2014/02/14 Javascript
浅析JavaScriptSerializer类的序列化与反序列化
2016/11/22 Javascript
jquery实现Ajax请求的几种常见方式总结
2019/05/28 jQuery
Javascript 对象(object)合并操作实例分析
2019/07/30 Javascript
SpringBoot在yml配置文件中配置druid的操作
2020/11/16 Javascript
[55:48]VGJ.S vs TNC Supermajor 败者组 BO3 第二场 6.6
2018/06/07 DOTA
跟老齐学Python之总结参数的传递
2014/10/10 Python
详解Django缓存处理中Vary头部的使用
2015/07/24 Python
简单了解Python下用于监视文件系统的pyinotify包
2015/11/13 Python
python遍历 truple list dictionary的几种方法总结
2016/09/11 Python
python WindowsError的错误代码详解
2017/07/23 Python
python在非root权限下的安装方法
2018/01/23 Python
python爬虫爬取淘宝商品信息(selenum+phontomjs)
2018/02/24 Python
Python使用itertools模块实现排列组合功能示例
2018/07/02 Python
python字符串和常用数据结构知识总结
2019/05/21 Python
selenium+python自动化测试环境搭建步骤
2019/06/03 Python
Python读取csv文件实例解析
2019/12/30 Python
使用Keras构造简单的CNN网络实例
2020/06/29 Python
详解python程序中的多任务
2020/09/16 Python
详解纯CSS3制作的20种loading动效
2017/07/05 HTML / CSS
css 如何让背景图片拉伸填充避免重复显示
2013/07/11 HTML / CSS
乌克兰在线商店的价格比较:Price.ua
2019/07/26 全球购物
Ruby如何进行文件操作
2014/07/17 面试题
感恩祖国演讲稿
2014/09/09 职场文书
2014年林业工作总结
2014/12/05 职场文书
2014年学校团委工作总结
2014/12/20 职场文书
2016新教师岗前培训心得体会
2016/01/08 职场文书
浅谈golang 中time.After释放的问题
2021/05/05 Golang
python识别围棋定位棋盘位置
2021/07/26 Python
图神经网络GNN算法
2022/05/11 Python