详解一种用django_cache实现分布式锁的方式


Posted in Python onSeptember 01, 2019

问题背景

在项目开发过程中,我遇到一个需求:对于某条记录,一个用户对它进行操作时会持续比较久,希望在一个用户的操作期间,不允许有另一个用户操作它,否容易会出现混乱。

在与同事们讨论后,想通过加锁的方式,起初想用redis锁,但这样会为项目增加别的依赖,因此转而使用django-cache的缓存数据库,来实现该功能。

资料查找

基于缓存实现分布式锁,在网络上查找了实现方式,大概可以总结为以下3种:

第一种锁命令INCR

这种加锁的思路是, key 不存在,那么 key 的值会先被初始化为 0 ,然后再执行 INCR 操作进行加一。 然后其它用户在执行 INCR 操作进行加一时,如果返回的数大于 1 ,说明这个锁正在被使用当中。

第二种锁命令SETNX

这种加锁的思路是,如果 key 不存在,将 key 设置为 value 如果 key 已存在,则 SETNX 不做任何动作

第三种锁命令SET

上面两种方法都有一个问题,会发现,都需要设置 key 过期。那么为什么要设置key过期呢?如果请求执行因为某些原因意外退出了,导致创建了锁但是没有删除锁,那么这个锁将一直存在,以至于以后缓存再也得不到更新。于是乎我们需要给锁加一个过期时间以防不测。

在实际编写中,我综合了第二种和第三种方式,即用键名来设置锁,同时设置了过期时间,以防长时间占用。

另外,关于如何使用django-cache去使用数据库缓存,相关的API整理如下:

from django.core.cache import caches
# 设置锁和超时时间
cache.set('my_key', 'Initial value', 60)
# 获取锁
cache.get('my_key')
# 更新锁
cache.add('add_key', 'New value')

代码编写

在经过多次的迭代,并且对比了网上的各路写法后,我结合django-cache的特性,最终总结了一套较为简洁的写法。

首先是一个CacheLock的类,初始化方法里可以传执行超时时间,和拿锁等待的时间。CacheLock类的主要方法有两个,一个是拿锁的方法,一个是释放锁的方法。

拿锁的方法中,键名根据操作的具体对象来定,键值为uuid值,超时时间默认为60s。一旦发现能拿到锁,则返回uuid值。

释放锁的方法中,首先比较键值和uuid值是否一致,一致则释放,避免因超时情况导致把其他的正在操作的锁给释放掉。

class CacheLock(object):
 def __init__(self, expires=60, wait_timeout=0):
 self.cache = cache
 self.expires = expires # 函数执行超时时间
 self.wait_timeout = wait_timeout # 拿锁等待超时时间

 def get_lock(self, lock_key):
 # 获取cache锁
 wait_timeout = self.wait_timeout
 identifier = uuid.uuid4()
 while wait_timeout >= 0:
  if self.cache.add(lock_key, identifier, self.expires):
  return identifier
  wait_timeout -= 1
  time.sleep(1)
 raise LockTimeout({'msg': '当前有其他用户正在编辑该采集配置,请稍后重试'})

 def release_lock(self, lock_key, identifier):
 # 释放cache锁
 lock_value = self.cache.get(lock_key)
 if lock_value == identifier:
  self.cache.delete(lock_key)

另外,将缓存锁写成一个装饰器,对需要加锁的地方,添加上该装饰器,则可以很轻松地实现锁功能。

def lock(cache_lock):
 def my_decorator(func):
 def wrapper(*args, **kwargs):
  lock_key = 'bk_monitor:lock:xxx' # 具体的lock_key要根据调用时传的参数而定
  identifier = cache_lock.get_lock(lock_key)
  try:
  return func(*args, **kwargs)
  finally:
  cache_lock.release_lock(lock_key, identifier)
 return wrapper
 return my_decorator

再举一个实际调用中的例子:

@lock(CacheLock())
def f():
 pass

另外,我在设置缓存的key名的时候,会根据函数的具体操作对象,从而给装饰器传递相应的参数,这里就不再举例了。

优化改进

当然,实现以上功能需求一定还有别的更好的方式,关于锁的实现,网络上有很多别的方式,比如基于zookeeper实现分布式锁、基于数据库实现分布式锁等等,它们在可靠性或性能方面都各有长短,要根据具体场景进行取舍,所以还有非常多值得研究的地方。

我这里也只是抛砖引玉,欢迎拍砖~

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python判断、获取一张图片主色调的2个实例
Apr 10 Python
微信小程序跳一跳游戏 python脚本跳一跳刷高分技巧
Jan 04 Python
对Python中range()函数和list的比较
Apr 19 Python
利用python的socket发送http(s)请求方法示例
May 07 Python
Python创建普通菜单示例【基于win32ui模块】
May 09 Python
对Python w和w+权限的区别详解
Jan 23 Python
python计算n的阶乘的方法代码
Oct 25 Python
python实现从ftp服务器下载文件
Mar 03 Python
解决python脚本中error: unrecognized arguments: True错误
Apr 20 Python
Python urllib库如何添加headers过程解析
Oct 05 Python
PyQt 如何创建自定义QWidget
Mar 24 Python
将Python代码打包成.exe可执行文件的完整步骤
May 12 Python
python实现多进程通信实例分析
Sep 01 #Python
python输出带颜色字体实例方法
Sep 01 #Python
基于Django框架的权限组件rbac实例讲解
Aug 31 #Python
Django之PopUp的具体实现方法
Aug 31 #Python
对django layer弹窗组件的使用详解
Aug 31 #Python
python2.7实现复制大量文件及文件夹资料
Aug 31 #Python
python3实现高效的端口扫描
Aug 31 #Python
You might like
php 按指定元素值去除数组元素的实现方法
2011/11/04 PHP
php自定文件保存session的方法
2014/12/10 PHP
YII使用url组件美化管理的方法
2015/12/28 PHP
Yii实现显示静态页的方法
2016/04/25 PHP
PHP实现生成数据字典功能示例
2018/05/24 PHP
thinkphp 5框架实现登陆,登出及session登陆状态检测功能示例
2019/10/10 PHP
比较详细的关于javascript中void(0)的具体含义解释
2007/08/02 Javascript
JS面向对象编程之对象使用分析
2010/08/19 Javascript
javascript 仿QQ滑动菜单效果代码
2010/09/03 Javascript
基于JQuery实现鼠标点击文本框显示隐藏提示文本
2012/02/23 Javascript
JavaScript匿名函数与委托使用示例
2014/07/22 Javascript
JS弹出层遮罩,隐藏背景页面滚动条细节优化分析
2016/04/29 Javascript
BootStrap文件上传样式超好看【持续更新】
2016/05/10 Javascript
node.js连接MongoDB数据库的2种方法教程
2017/05/17 Javascript
Vue实现导出excel表格功能
2018/03/30 Javascript
详解webpack打包第三方类库的正确姿势
2018/10/20 Javascript
vue自定义js图片碎片轮播图切换效果的实现代码
2019/04/28 Javascript
vue实现行列转换的一种方法
2019/08/06 Javascript
[06:33]DOTA2亚洲邀请赛小组赛第二日 TOP10精彩集锦
2015/01/31 DOTA
python使用TensorFlow进行图像处理的方法
2018/02/28 Python
Python HTML解析器BeautifulSoup用法实例详解【爬虫解析器】
2019/04/05 Python
Python实现Selenium自动化Page模式
2019/07/14 Python
Python实现微信好友的数据分析
2019/12/16 Python
python基于socket函数实现端口扫描
2020/05/28 Python
Python pysnmp使用方法及代码实例
2020/08/24 Python
24个canvas基础知识小结
2014/12/17 HTML / CSS
牧马人澳大利亚官网:Wrangler澳大利亚
2019/10/08 全球购物
勤俭节约倡议书
2014/04/14 职场文书
协议书与合同的区别
2014/04/18 职场文书
小学生倡议书范文
2014/05/13 职场文书
2014教师年度思想工作总结
2014/11/10 职场文书
2014年招生工作总结
2014/11/26 职场文书
作文评语集锦
2014/12/25 职场文书
小学英语教学经验交流材料
2015/11/02 职场文书
2019银行竞聘书
2019/06/21 职场文书
MySQL中distinct与group by之间的性能进行比较
2021/05/26 MySQL