memcache一致性hash的php实现方法


Posted in PHP onMarch 05, 2015

本文实例讲述了memcache一致性hash的php实现方法。分享给大家供大家参考。具体如下:

最近在看一些分布式方面的文章,所以就用php实现一致性hash来练练手,以前一般用的是最原始的hash取模做 分布式,当生产过程中添加或删除一台memcache都会造成数据的全部失效,一致性hash就是为了解决这个问题,把失效数据降到最低,相关资料可以 google一下!

php实现效率有一定的缺失,如果要高效率,还是写扩展比较好

经测试,5个memcache,每个memcache生成100个虚拟节点,set加get1000次,与单个memcache直接set加get慢5倍,所以效率一般,有待优化!

在阅读本文之前,最好知道二分查找法。

实现过程:

memcache的配置 ip+端口+虚拟节点序列号 做hash,使用的是crc32,形成一个闭环。
对要操作的key进行crc32
二分法在虚拟节点环中查找最近的一个虚拟节点
从虚拟节点中提取真实的memcache ip和端口,做单例连接

<?php

class memcacheHashMap {

        private $_node = array();

        private $_nodeData = array();

        private $_keyNode = 0;

        private $_memcache = null;

        //每个物理服务器生成虚拟节点个数 [注:节点数越多,cache分布的均匀性越好,同时set get操作时,也更耗资源,10台物理服务器,采用200较为合理]

        private $_virtualNodeNum = 200;

        private function __construct() {

                $config = array(//五个memcache服务器

                                                '127.0.0.1:11211',

                                                '127.0.0.1:11212',

                                                '127.0.0.1:11213',

                                                '127.0.0.1:11214',

                                                '127.0.0.1:11215'

                                        );

                if (!$config) throw new Exception('Cache config NULL');

                foreach ($config as $key => $value) {

                        for ($i = 0; $i < $this->_virtualNodeNum; $i++) {

                                $this->_node[sprintf("%u", crc32($value . '_' . $i))] = $value . '_' . $i;//循环为每个memcache服务器创建200个虚拟节点

                        }

                }

                ksort($this->_node);//创建出来的1000个虚拟节点按照键名从小到大排序

        }

        //实例化该类

        static public function getInstance() {

                static $memcacheObj = null;

                if (!is_object($memcacheObj)) {

                        $memcacheObj = new self();

                }

                return $memcacheObj;

        }

        //根据传来的键查找到对应虚拟节点的位置

        private function _connectMemcache($key) {

                $this->_nodeData = array_keys($this->_node);//所有的虚拟节点的键的数组

                $this->_keyNode = sprintf("%u", crc32($key));//算出键的hash值

                $nodeKey = $this->_findServerNode();//找出对应的虚拟节点

                //如果超出环,从头再用二分法查找一个最近的,然后环的头尾做判断,取最接近的节点

                if ($this->_keyNode > end($this->_nodeData)) {

                        $this->_keyNode -= end($this->_nodeData);

                        $nodeKey2 = $this->_findServerNode();

                        if (abs($nodeKey2 - $this->_keyNode) < abs($nodeKey - $this->_keyNode))  $nodeKey = $nodeKey2;

                }

                var_dump($this->_node[$nodeKey]);

                list($config, $num) = explode('_', $this->_node[$nodeKey]);

                if (!$config) throw new Exception('Cache config Error');

                if (!isset($this->_memcache[$config])) {

                        $this->_memcache[$config] = new Memcache;

                        list($host, $port) = explode(':', $config);

                        $this->_memcache[$config]->connect($host, $port);

                }

                return $this->_memcache[$config];

        }

        //二分法根据给出的值找出最近的虚拟节点位置

        private function _findServerNode($m = 0, $b = 0) {

            $total = count($this->_nodeData);

            if ($total != 0 && $b == 0) $b = $total - 1;

            if ($m < $b){

                $avg = intval(($m+$b) / 2);

                if ($this->_nodeData[$avg] == $this->_keyNode) return $this->_nodeData[$avg];

                elseif ($this->_keyNode < $this->_nodeData[$avg] && ($avg-1 >= 0)) return $this->_findServerNode($m, $avg-1);

                else return $this->_findServerNode($avg+1, $b);

            }

                if (abs($this->_nodeData[$b] - $this->_keyNode) < abs($this->_nodeData[$m] - $this->_keyNode))  return $this->_nodeData[$b];

                else return $this->_nodeData[$m];

        }

        public function set($key, $value, $expire = 0) {

                return $this->_connectMemcache($key)->set($key, json_encode($value), 0, $expire);

        }

        public function add($key, $value, $expire = 0) {

                return $this->_connectMemcache($key)->add($key, json_encode($value), 0, $expire);

        }

        public function get($key) {

                return json_decode($this->_connectMemcache($key)->get($key), true);

        }

        public function delete($key) {

                return $this->_connectMemcache($key)->delete($key);

        }

}

$runData['BEGIN_TIME'] = microtime(true);

//测试一万次set加get

for($i=0;$i<10000;$i++) {

        $key = md5(mt_rand());

        $b = memcacheHashMap::getInstance()->set($key, time(), 10);

}

var_dump(number_format(microtime(true) - $runData['BEGIN_TIME'],6));

$runData['BEGIN_TIME'] = microtime(true); $m= new Memcache;

$m->connect('127.0.0.1', 11211);

for($i=0;$i<10000;$i++) {

        $key = md5(mt_rand());

        $b = $m->set($key, time(), 0, 10);

}

var_dump(number_format(microtime(true) - $runData['BEGIN_TIME'],6));

?>

希望本文所述对大家的php程序设计有所帮助。

PHP 相关文章推荐
PHP 5.3.1 安装包 VC9 VC6不同版本的区别是什么
Jul 04 PHP
php更新mysql后获取影响的行数发生异常解决方法
Mar 28 PHP
PHP 登录记住密码实现思路
May 07 PHP
php修改NetBeans默认字体的大小
Jul 02 PHP
简单的php缓存类分享     php缓存机制
Jan 22 PHP
PHP异常Parse error: syntax error, unexpected T_VAR错误解决方法
May 06 PHP
CI框架学习笔记(一) - 环境安装、基本术语和框架流程
Oct 26 PHP
php+html5基于websocket实现聊天室的方法
Jul 17 PHP
PHP mongodb操作类定义与用法示例【适合mongodb2.x和mongodb3.x】
Jun 16 PHP
php解决crontab定时任务不能写入文件问题的方法分析
Sep 16 PHP
如何利用PHP实现上传图片功能详解
Sep 24 PHP
php 解析非标准json、非规范json
Apr 01 PHP
PHP将session信息存储到数据库的类实例
Mar 04 #PHP
php微信支付之APP支付方法
Mar 04 #PHP
php支付宝手机网页支付类实例
Mar 04 #PHP
php银联网页支付实现方法
Mar 04 #PHP
php随机抽奖实例分析
Mar 04 #PHP
php二维数组合并及去重复的方法
Mar 04 #PHP
php中get_cfg_var()和ini_get()的用法及区别
Mar 04 #PHP
You might like
曾在DC漫画界反派角色扮演的演员,谁才是你心目中的小丑之王?
2020/04/09 欧美动漫
PHP中的MYSQL常用函数(php下操作数据库必备)
2010/09/12 PHP
PHP Session 变量的使用方法详解与实例代码
2013/09/11 PHP
Javascript----文件操作
2007/01/18 Javascript
innerHTML,outerHTML,innerTEXT三者之间的区别
2007/01/28 Javascript
传智播客学习之java 反射
2009/11/22 Javascript
javascript基于DOM实现省市级联下拉框的方法
2015/05/14 Javascript
form表单转Json提交的方法(推荐)
2016/09/23 Javascript
JS+canvas绘制的动态机械表动画效果
2017/09/12 Javascript
React如何利用相对于根目录进行引用组件详解
2017/10/09 Javascript
jQuery实现的模仿雨滴下落动画效果
2018/12/11 jQuery
重学 JS:为啥 await 不能用在 forEach 中详解
2019/04/15 Javascript
微信小程序 导入图标实现过程详解
2019/10/11 Javascript
JS操作字符串转数字的常见方法示例
2019/10/29 Javascript
JS中的const命令你真懂它吗
2020/03/08 Javascript
Vue 3自定义指令开发的相关总结
2021/01/29 Vue.js
python连接mysql并提交mysql事务示例
2014/03/05 Python
Python 读写文件和file对象的方法(推荐)
2016/09/12 Python
python机器学习之神经网络(二)
2017/12/20 Python
Python程序打包工具py2exe和PyInstaller详解
2019/06/28 Python
Python爬虫实现使用beautifulSoup4爬取名言网功能案例
2019/09/15 Python
python实现一个点绕另一个点旋转后的坐标
2019/12/04 Python
python opencv实现gif图片分解的示例代码
2019/12/13 Python
python十进制转二进制的详解
2020/02/07 Python
Cpython解释器中的GIL全局解释器锁
2020/11/09 Python
H5页面适配iPhoneX(就是那么简单)
2019/12/02 HTML / CSS
AmazeUI中模态框的实现
2020/08/19 HTML / CSS
美国优质马术服装购买网站:Breeches.com
2019/12/16 全球购物
STP协议的主要用途是什么?为什么要用STP
2012/12/20 面试题
英语专业推荐信
2013/11/16 职场文书
还款承诺书范文
2014/05/20 职场文书
个人授权委托书范本格式
2014/10/12 职场文书
委托书范本格式
2019/04/18 职场文书
忆童年!用Python实现愤怒的小鸟游戏
2021/06/07 Python
GO语言异常处理分析 err接口及defer延迟
2022/04/14 Golang
JDK8中String的intern()方法实例详细解读
2022/09/23 Java/Android