Python读写锁实现实现代码解析


Posted in Python onNovember 28, 2020

起步

Python 提供的多线程模型中并没有提供读写锁,读写锁相对于单纯的互斥锁,适用性更高,可以多个线程同时占用读模式的读写锁,但是只能一个线程占用写模式的读写锁。

通俗点说就是当没有写锁时,就可以加读锁且任意线程可以同时加;而写锁只能有一个线程,且必须在没有读锁时才能加上。

简单的实现

import threading

class RWlock(object):
  def __init__(self):
    self._lock = threading.Lock()
    self._extra = threading.Lock()
    self.read_num = 0

  def read_acquire(self):
    with self._extra:
      self.read_num += 1
      if self.read_num == 1:
        self._lock.acquire()

  def read_release(self):
    with self._extra:
      self.read_num -= 1
      if self.read_num == 0:
        self._lock.release()

  def write_acquire(self):
    self._lock.acquire()

  def write_release(self):
    self._lock.release()

这是读写锁的一个简单的实现,self.read_num 用来保存获得读锁的线程数,这个属性属于临界区,对其操作也要加锁,所以这里需要一个保护内部数据的额外的锁 self._extra 。

但是这个锁是不公平的。理想情况下,线程获得所的机会应该是一样的,不管线程是读操作还是写操作。而从上述代码可以看到,读请求都会立即设置 self.read_num += 1,不管有没有获得锁,而写请求想要获得锁还得等待 read_num 为 0 。

所以这个就造成了只有锁没有被占用或者没有读请求时,可以获得写权限。我们应该想办法避免读模式锁长期占用。

读写锁的优先级

读写锁也有分 读优先 和 写优先。上面的代码就属于读优先。

如果要改成写优先,那就换成去记录写线程的引用计数,读和写在同时竞争时,可以让写线程增加写的计数,这样可使读线程的读锁一直获取不到, 因为读线程要先判断写的引用计数,若不为0,则等待其为 0,然后进行读。这部分代码不罗列了。

但这样显然不够灵活。我们不需要两个相似的读写锁类。我们希望重构我们代码,使它更强大。

改进

为了能够满足自定义优先级的读写锁,要记录等待的读写线程数,并且需要两个条件 threading.Condition 用来处理哪方优先的通知。计数引用可以扩大语义:正数:表示正在读操作的线程数,负数:表示正在写操作的线程数(最多-1)

在获取读操作时,先然后判断时候有等待的写线程,没有,进行读操作,有,则等待读的计数加 1 后等待 Condition 通知;等待读的计数减 1,计数引用加 1,继续读操作,若条件不成立,循环等待;

在获取写操作时,若锁没有被占用,引用计数减 1,若被占用,等待写线程数加 1,等待写条件 Condition 的通知。

读模式和写模式的释放都是一样,需要根据判断去通知对应的 Condition:

class RWLock(object):
  def __init__(self):
    self.lock = threading.Lock()
    self.rcond = threading.Condition(self.lock)
    self.wcond = threading.Condition(self.lock)
    self.read_waiter = 0  # 等待获取读锁的线程数
    self.write_waiter = 0  # 等待获取写锁的线程数
    self.state = 0     # 正数:表示正在读操作的线程数  负数:表示正在写操作的线程数(最多-1)
    self.owners = []    # 正在操作的线程id集合
    self.write_first = True # 默认写优先,False表示读优先

  def write_acquire(self, blocking=True):
    # 获取写锁只有当
    me = threading.get_ident()
    with self.lock:
      while not self._write_acquire(me):
        if not blocking:
          return False
        self.write_waiter += 1
        self.wcond.wait()
        self.write_waiter -= 1
    return True

  def _write_acquire(self, me):
    # 获取写锁只有当锁没人占用,或者当前线程已经占用
    if self.state == 0 or (self.state < 0 and me in self.owners):
      self.state -= 1
      self.owners.append(me)
      return True
    if self.state > 0 and me in self.owners:
      raise RuntimeError('cannot recursively wrlock a rdlocked lock')
    return False

  def read_acquire(self, blocking=True):
    me = threading.get_ident()
    with self.lock:
      while not self._read_acquire(me):
        if not blocking:
          return False
        self.read_waiter += 1
        self.rcond.wait()
        self.read_waiter -= 1
    return True

  def _read_acquire(self, me):
    if self.state < 0:
      # 如果锁被写锁占用
      return False

    if not self.write_waiter:
      ok = True
    else:
      ok = me in self.owners
    if ok or not self.write_first:
      self.state += 1
      self.owners.append(me)
      return True
    return False

  def unlock(self):
    me = threading.get_ident()
    with self.lock:
      try:
        self.owners.remove(me)
      except ValueError:
        raise RuntimeError('cannot release un-acquired lock')

      if self.state > 0:
        self.state -= 1
      else:
        self.state += 1
      if not self.state:
        if self.write_waiter and self.write_first:  # 如果有写操作在等待(默认写优先)
          self.wcond.notify()
        elif self.read_waiter:
          self.rcond.notify_all()
        elif self.write_waiter:
          self.wcond.notify()

  read_release = unlock
  write_release = unlock

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python 解析html之BeautifulSoup
Jul 07 Python
Python中的自省(反射)详解
Jun 02 Python
matplotlib中legend位置调整解析
Dec 19 Python
django使用xlwt导出excel文件实例代码
Feb 06 Python
Python requests发送post请求的一些疑点
May 20 Python
Python爬取数据并写入MySQL数据库的实例
Jun 21 Python
pycharm修改界面主题颜色的方法
Jan 17 Python
Pycharm保存不能自动同步到远程服务器的解决方法
Jun 27 Python
TensorBoard 计算图的查看方式
Feb 15 Python
基于Python数据分析之pandas统计分析
Mar 03 Python
分布式全文检索引擎ElasticSearch原理及使用实例
Nov 14 Python
linux系统下pip升级报错的解决方法
Jan 31 Python
python解压zip包中文乱码解决方法
Nov 27 #Python
python 实现控制鼠标键盘
Nov 27 #Python
Python模拟键盘输入自动登录TGP
Nov 27 #Python
python操作toml文件的示例代码
Nov 27 #Python
Python GUI库Tkiner使用方法代码示例
Nov 27 #Python
Python爬虫爬取有道实现翻译功能
Nov 27 #Python
python爬虫中采集中遇到的问题整理
Nov 27 #Python
You might like
PHP实现域名whois查询的代码(数据源万网、新网)
2010/02/22 PHP
linux下编译安装memcached服务
2014/08/03 PHP
简介WordPress中用于获取首页和站点链接的PHP函数
2015/12/17 PHP
CI框架(ajax分页,全选,反选,不选,批量删除)完整代码详解
2016/11/01 PHP
JavaScript 页面坐标相关知识整理
2010/01/09 Javascript
初步了解javascript面向对象
2015/11/09 Javascript
javascript实现数字配对游戏的实例讲解
2017/12/14 Javascript
Parcel 打包示例(React HelloWorld)
2018/01/16 Javascript
微信小程序实现导航栏选项卡效果
2020/06/19 Javascript
vue-lazyload图片延迟加载插件的实例讲解
2018/02/09 Javascript
详解小程序输入框闪烁及重影BUG解决方案
2018/08/31 Javascript
微信小程序picker组件关于objectArray数据类型的绑定方法
2019/03/13 Javascript
使用vue2.6实现抖音【时间轮盘】屏保效果附源码
2019/04/24 Javascript
jQuery层叠选择器用法实例分析
2019/06/28 jQuery
Vue 封装防刷新考试倒计时组件的实现
2020/06/05 Javascript
jQuery+ajax实现文件上传功能
2020/12/22 jQuery
element 动态合并表格的步骤
2020/12/31 Javascript
[01:57]2016完美“圣”典风云人物:国士无双专访
2016/12/04 DOTA
[01:08:29]DOTA2-DPC中国联赛定级赛 RNG vs Aster BO3第一场 1月9日
2021/03/11 DOTA
Python编程实现的图片识别功能示例
2017/08/03 Python
Python通过调用mysql存储过程实现更新数据功能示例
2018/04/03 Python
python读写LMDB文件的方法
2018/07/02 Python
基于DataFrame改变列类型的方法
2018/07/25 Python
Python和Java的语法对比分析语法简洁上python的确完美胜出
2019/05/10 Python
django 做 migrate 时 表已存在的处理方法
2019/08/31 Python
解决Python中回文数和质数的问题
2019/11/24 Python
Python如何把十进制数转换成ip地址
2020/05/25 Python
scrapy与selenium结合爬取数据(爬取动态网站)的示例代码
2020/09/28 Python
荷兰和比利时时尚鞋店:Van Dalen
2018/04/23 全球购物
竞选生活委员演讲稿
2014/04/28 职场文书
2014年会计个人工作总结
2014/11/24 职场文书
员工给公司的建议书
2019/06/24 职场文书
如何有效防止sql注入的方法
2021/05/25 SQL Server
MySQL连表查询分组去重的实现示例
2021/07/01 MySQL
MySQL query_cache_type 参数与使用详解
2021/07/01 MySQL
MySQL 原理与优化之Limit 查询优化
2022/08/14 MySQL