对Python多线程读写文件加锁的实例详解


Posted in Python onJanuary 14, 2019

Python的多线程在io方面比单线程还是有优势,但是在多线程开发时,少不了对文件的读写操作。在管理多个线程对同一文件的读写操作时,就少不了文件锁了。

使用fcntl

在linux下,python的标准库有现成的文件锁,来自于fcntl模块。这个模块提供了unix系统fcntl()和ioctl()的接口。

对于文件锁的操作,主要需要使用 fcntl.flock(fd, operation)这个函数。

其中,参数 fd 表示文件描述符;参数 operation 指定要进行的锁操作,该参数的取值有如下几种:

LOCK_SH:表示要创建一个共享锁,在任意时间内,一个文件的共享锁可以被多个进程拥有

LOCK_EX:表示创建一个排他锁,在任意时间内,一个文件的排他锁只能被一个进程拥有

LOCK_UN:表示删除该进程创建的锁

LOCK_MAND:它主要是用于共享模式强制锁,它可以与 LOCK_READ 或者 LOCK_WRITE联合起来使用,从而表示是否允许并发的读操作或者并发的写操作

demo

import fcntl
import threading
import time
 
 
def writetoTxt(txtFile):
 id = threading.currentThread().getName()
 with open(txtFile, 'a') as f:
  fcntl.flock(f.fileno(), fcntl.LOCK_EX) #加锁
  print "{0} acquire lock".format(id)
  f.write("write from {0} \r\n".format(id))
  time.sleep(3)
 # 在with块外,文件关闭,自动解锁
 print "{0} exit".format(id)
 
 
for i in range(5):
 myThread = threading.Thread(target=writetoTxt, args=("test.txt",))
 myThread.start()

代码运行期间,控制台将依次打印哪个线程获得了锁,在对文件进行读写。

Thread-1 acquire lock
Thread-1 exit
Thread-2 acquire lock
Thread-2 exit
Thread-3 acquire lock
Thread-3 exit
Thread-5 acquire lock
Thread-5 exit
Thread-4 acquire lock
Thread-4 exit

小结

通过调用

fcntl.flock(f.fileno(), fcntl.LOCK_EX)

对文件加锁,如果有其他线程尝试对test文件加锁,会被阻塞。

当线程执行完毕的时候,锁会自动释放。或者也可以采取主动的方式解锁:调用

fcntl.flock(f.fileno(),fcntl.LOCK_UN)

函数, 对文件test解锁

使用线程锁

当多个线程共享一个数据的时候,必须要进行同步的控制,不然会出现不可预期的结果,即 “线程不安全”

线程同步能够保证多个线程安全访问竞争资源,最简单的同步机制是引入互斥锁。

互斥锁为资源引入一个状态:锁定/非锁定。

某个线程要更改共享数据时,先将其锁定,此时资源的状态为“锁定”,其他线程不能更改;

直到该线程释放资源,将资源的状态变成“非锁定”,其他的线程才能再次锁定该资源。

互斥锁保证了每次只有一个线程进行写入操作,从而保证了多线程情况下数据的正确性。

threading模块中定义了Lock类,可以方便的处理锁定:

#创建锁
mutex = threading.Lock()
#锁定
mutex.acquire([timeout])
#解锁
mutex.release()

Demo

使用互斥锁实现上面的例子的代码如下:

import threading
import time
 
def writetoTxt(txtFile):
 id = threading.currentThread().getName()
 mutex.acquire(10)
 with open(txtFile, 'a') as f:
  print "Thread {0} acquire lock".format(id)
  f.write("write from thread {0} \r\n".format(id))
  time.sleep(3)
 mutex.release()
 print "Thread {0} exit".format(id)
 
 
mutex = threading.Lock()
 
for i in range(5):
 myThread = threading.Thread(target=writetoTxt, args=("test.txt",))
 myThread.start()

(上述代码本质上是一个顺序执行的单线程)

结果:

Thread Thread-1 acquire lock
Thread Thread-1 exit
Thread Thread-2 acquire lock
Thread Thread-2 exit
Thread Thread-3 acquire lock
Thread Thread-3 exit
Thread Thread-4 acquire lock
Thread Thread-4 exit
Thread Thread-5 acquire lock
Thread Thread-5 exit

小结

当一个线程调用锁的acquire()方法获得锁时,锁就进入“locked”状态。每次只有一个线程可以获得锁。如果此时另一个线程试图获得这个锁,该线程就会变为“blocked”状态,称为“同步阻塞”。

直到拥有锁的线程调用锁的release()方法释放锁之后,锁进入“unlocked”状态。线程调度程序从处于同步阻塞状态的线程中选择一个来获得锁,并使得该线程进入运行(running)状态。

以上这篇对Python多线程读写文件加锁的实例详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python列表推导式的使用方法
Nov 21 Python
python选择排序算法的实现代码
Nov 21 Python
python 示例分享---逻辑推理编程解决八皇后
Jul 20 Python
Python原始字符串(raw strings)用法实例
Oct 13 Python
python中的__slots__使用示例
Feb 26 Python
Python矩阵常见运算操作实例总结
Sep 29 Python
python3.5 email实现发送邮件功能
May 22 Python
Pycharm2017版本设置启动时默认自动打开项目的方法
Oct 29 Python
Python设计模式之适配器模式原理与用法详解
Jan 15 Python
Django对models里的objects的使用详解
Aug 17 Python
python小程序之飘落的银杏
Apr 17 Python
Python中json.load()和json.loads()有哪些区别
Jun 07 Python
Python多进程写入同一文件的方法
Jan 14 #Python
python 将大文件切分为多个小文件的实例
Jan 14 #Python
使用k8s部署Django项目的方法步骤
Jan 14 #Python
Python数据可视化教程之Matplotlib实现各种图表实例
Jan 13 #Python
python中使用 xlwt 操作excel的常见方法与问题
Jan 13 #Python
用Python实现大文本文件切割的方法
Jan 12 #Python
python实时获取外部程序输出结果的方法
Jan 12 #Python
You might like
Yii2.0多文件上传实例说明
2017/07/24 PHP
jquery ajax 调用失败的原因示例介绍
2013/09/27 Javascript
JQuery教学之性能优化
2014/05/14 Javascript
JavaScript中的Number数字类型学习笔记
2016/05/26 Javascript
Node.js复制文件的方法示例
2016/12/29 Javascript
JS正则验证多个邮箱完整实例【邮箱用分号隔开】
2017/04/19 Javascript
Layui多选只有最后一个值的解决方法
2019/09/02 Javascript
微信小程序日历插件代码实例
2019/12/04 Javascript
jQuery实现雪花飘落效果
2020/08/02 jQuery
微信小程序实现拼图小游戏
2020/10/22 Javascript
Python中的魔法方法深入理解
2014/07/09 Python
python通过zlib实现压缩与解压字符串的方法
2014/11/19 Python
Python中的异常处理简明介绍
2015/04/13 Python
Python实现去除列表中重复元素的方法小结【4种方法】
2018/04/27 Python
Python使用Matplotlib模块时坐标轴标题中文及各种特殊符号显示方法
2018/05/04 Python
python发送邮件脚本
2018/05/22 Python
详解Django中间件的5种自定义方法
2018/07/26 Python
为什么str(float)在Python 3中比Python 2返回更多的数字
2018/10/16 Python
python实现给微信指定好友定时发送消息
2019/04/29 Python
pytorch中使用cuda扩展的实现示例
2020/02/12 Python
安装完Python包然后找不到模块的解决步骤
2020/02/13 Python
Pandas —— resample()重采样和asfreq()频度转换方式
2020/02/26 Python
使用Numpy对特征中的异常值进行替换及条件替换方式
2020/06/08 Python
详解pyinstaller生成exe的闪退问题解决方案
2020/06/19 Python
Python 如何创建一个简单的REST接口
2020/07/30 Python
python两种注释用法的示例
2020/10/09 Python
HTML5 video进入全屏和退出全屏的实现方法
2020/07/28 HTML / CSS
荷兰在线啤酒店:Beerwulf
2019/08/26 全球购物
医学生自我鉴定范文
2013/11/08 职场文书
宣传工作经验材料
2014/06/02 职场文书
拉歌口号大全
2014/06/13 职场文书
医院节能减排方案
2014/06/13 职场文书
中韩经贸翻译专业大学生职业生涯规划范文
2014/09/18 职场文书
2014年采购部工作总结
2014/11/20 职场文书
六年级作文之关于梦
2019/10/22 职场文书
Win11软件图标固定到任务栏
2022/04/19 数码科技