详解一种用django_cache实现分布式锁的方式


Posted in Python onSeptember 01, 2019

问题背景

在项目开发过程中,我遇到一个需求:对于某条记录,一个用户对它进行操作时会持续比较久,希望在一个用户的操作期间,不允许有另一个用户操作它,否容易会出现混乱。

在与同事们讨论后,想通过加锁的方式,起初想用redis锁,但这样会为项目增加别的依赖,因此转而使用django-cache的缓存数据库,来实现该功能。

资料查找

基于缓存实现分布式锁,在网络上查找了实现方式,大概可以总结为以下3种:

第一种锁命令INCR

这种加锁的思路是, key 不存在,那么 key 的值会先被初始化为 0 ,然后再执行 INCR 操作进行加一。 然后其它用户在执行 INCR 操作进行加一时,如果返回的数大于 1 ,说明这个锁正在被使用当中。

第二种锁命令SETNX

这种加锁的思路是,如果 key 不存在,将 key 设置为 value 如果 key 已存在,则 SETNX 不做任何动作

第三种锁命令SET

上面两种方法都有一个问题,会发现,都需要设置 key 过期。那么为什么要设置key过期呢?如果请求执行因为某些原因意外退出了,导致创建了锁但是没有删除锁,那么这个锁将一直存在,以至于以后缓存再也得不到更新。于是乎我们需要给锁加一个过期时间以防不测。

在实际编写中,我综合了第二种和第三种方式,即用键名来设置锁,同时设置了过期时间,以防长时间占用。

另外,关于如何使用django-cache去使用数据库缓存,相关的API整理如下:

from django.core.cache import caches
# 设置锁和超时时间
cache.set('my_key', 'Initial value', 60)
# 获取锁
cache.get('my_key')
# 更新锁
cache.add('add_key', 'New value')

代码编写

在经过多次的迭代,并且对比了网上的各路写法后,我结合django-cache的特性,最终总结了一套较为简洁的写法。

首先是一个CacheLock的类,初始化方法里可以传执行超时时间,和拿锁等待的时间。CacheLock类的主要方法有两个,一个是拿锁的方法,一个是释放锁的方法。

拿锁的方法中,键名根据操作的具体对象来定,键值为uuid值,超时时间默认为60s。一旦发现能拿到锁,则返回uuid值。

释放锁的方法中,首先比较键值和uuid值是否一致,一致则释放,避免因超时情况导致把其他的正在操作的锁给释放掉。

class CacheLock(object):
 def __init__(self, expires=60, wait_timeout=0):
 self.cache = cache
 self.expires = expires # 函数执行超时时间
 self.wait_timeout = wait_timeout # 拿锁等待超时时间

 def get_lock(self, lock_key):
 # 获取cache锁
 wait_timeout = self.wait_timeout
 identifier = uuid.uuid4()
 while wait_timeout >= 0:
  if self.cache.add(lock_key, identifier, self.expires):
  return identifier
  wait_timeout -= 1
  time.sleep(1)
 raise LockTimeout({'msg': '当前有其他用户正在编辑该采集配置,请稍后重试'})

 def release_lock(self, lock_key, identifier):
 # 释放cache锁
 lock_value = self.cache.get(lock_key)
 if lock_value == identifier:
  self.cache.delete(lock_key)

另外,将缓存锁写成一个装饰器,对需要加锁的地方,添加上该装饰器,则可以很轻松地实现锁功能。

def lock(cache_lock):
 def my_decorator(func):
 def wrapper(*args, **kwargs):
  lock_key = 'bk_monitor:lock:xxx' # 具体的lock_key要根据调用时传的参数而定
  identifier = cache_lock.get_lock(lock_key)
  try:
  return func(*args, **kwargs)
  finally:
  cache_lock.release_lock(lock_key, identifier)
 return wrapper
 return my_decorator

再举一个实际调用中的例子:

@lock(CacheLock())
def f():
 pass

另外,我在设置缓存的key名的时候,会根据函数的具体操作对象,从而给装饰器传递相应的参数,这里就不再举例了。

优化改进

当然,实现以上功能需求一定还有别的更好的方式,关于锁的实现,网络上有很多别的方式,比如基于zookeeper实现分布式锁、基于数据库实现分布式锁等等,它们在可靠性或性能方面都各有长短,要根据具体场景进行取舍,所以还有非常多值得研究的地方。

我这里也只是抛砖引玉,欢迎拍砖~

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
忘记ftp密码使用python ftplib库暴力破解密码的方法示例
Jan 22 Python
基于python元祖与字典与集合的粗浅认识
Aug 23 Python
python使用Flask操作mysql实现登录功能
May 14 Python
pandas 将索引值相加的方法
Nov 15 Python
详解Python 多线程 Timer定时器/延迟执行、Event事件
Jun 27 Python
pycharm设置鼠标悬停查看方法设置
Jul 29 Python
python-web根据元素属性进行定位的方法
Dec 13 Python
如何实现在jupyter notebook中播放视频(不停地展示图片)
Apr 23 Python
Python几种常见算法汇总
Jun 02 Python
一篇文章搞懂python的转义字符及用法
Sep 03 Python
Django实现微信小程序支付的示例代码
Sep 03 Python
pycharm实现猜数游戏
Dec 07 Python
python实现多进程通信实例分析
Sep 01 #Python
python输出带颜色字体实例方法
Sep 01 #Python
基于Django框架的权限组件rbac实例讲解
Aug 31 #Python
Django之PopUp的具体实现方法
Aug 31 #Python
对django layer弹窗组件的使用详解
Aug 31 #Python
python2.7实现复制大量文件及文件夹资料
Aug 31 #Python
python3实现高效的端口扫描
Aug 31 #Python
You might like
一个简单的PHP&MYSQL留言板源码
2020/07/19 PHP
php 获取select下拉列表框的值
2010/05/08 PHP
分享一个超好用的php header下载函数
2014/01/31 PHP
PHP微信开发用Cache 解决数据缓存
2016/07/11 PHP
Javascript 判断Flash是否加载完成的代码
2010/04/12 Javascript
各浏览器对click方法的支持差异小结
2011/07/31 Javascript
js arguments对象应用介绍
2012/11/28 Javascript
关于jQuery对象数据缓存Cache原理以及jQuery.data详解
2013/04/07 Javascript
js完美解决IE6不支持position:fixed的bug
2015/04/24 Javascript
JS+CSS实现简单的二级下拉导航菜单效果
2015/09/21 Javascript
vue开发心得和技巧分享
2016/10/27 Javascript
基于jquery实现的银行卡号每隔4位自动插入空格的实现代码
2016/11/22 Javascript
jQuery validata插件实现方法
2017/06/25 jQuery
js canvas实现简单的图像扩散效果
2020/06/28 Javascript
bootstrap select2插件用ajax来获取和显示数据的实例
2018/08/09 Javascript
countUp.js实现数字动态变化效果
2019/10/17 Javascript
详解JavaScript中的数据类型,以及检测数据类型的方法
2020/09/17 Javascript
Python的Django框架中消息通知的计数器实现教程
2016/06/13 Python
浅谈pytorch grad_fn以及权重梯度不更新的问题
2019/08/20 Python
Python如何基于rsa模块实现非对称加密与解密
2020/01/03 Python
如何利用python读取micaps文件详解
2020/10/18 Python
基于 Python 实践感知器分类算法
2021/01/07 Python
用HTML5实现网站在windows8中贴靠的方法
2013/04/21 HTML / CSS
iRobot官网:改变生活的家用机器人品牌
2016/09/20 全球购物
Trunki英国官网:儿童坐骑式行李箱
2017/05/30 全球购物
params有什么用
2016/03/01 面试题
经典优秀个人求职自荐信格式
2013/09/25 职场文书
售后专员岗位职责
2013/12/08 职场文书
社会工作专业求职信
2014/07/15 职场文书
幸福家庭事迹材料
2014/12/20 职场文书
护理工作个人总结
2015/03/03 职场文书
2015年党风廉政建设工作总结
2015/04/09 职场文书
节水宣传标语口号
2015/12/26 职场文书
详解Java线程池是如何重复利用空闲线程的
2021/06/26 Java/Android
分析并发编程之LongAdder原理
2021/06/29 Java/Android
Nginx+Tomcat负载均衡多实例详解
2022/04/11 Servers