对Python多线程读写文件加锁的实例详解


Posted in Python onJanuary 14, 2019

Python的多线程在io方面比单线程还是有优势,但是在多线程开发时,少不了对文件的读写操作。在管理多个线程对同一文件的读写操作时,就少不了文件锁了。

使用fcntl

在linux下,python的标准库有现成的文件锁,来自于fcntl模块。这个模块提供了unix系统fcntl()和ioctl()的接口。

对于文件锁的操作,主要需要使用 fcntl.flock(fd, operation)这个函数。

其中,参数 fd 表示文件描述符;参数 operation 指定要进行的锁操作,该参数的取值有如下几种:

LOCK_SH:表示要创建一个共享锁,在任意时间内,一个文件的共享锁可以被多个进程拥有

LOCK_EX:表示创建一个排他锁,在任意时间内,一个文件的排他锁只能被一个进程拥有

LOCK_UN:表示删除该进程创建的锁

LOCK_MAND:它主要是用于共享模式强制锁,它可以与 LOCK_READ 或者 LOCK_WRITE联合起来使用,从而表示是否允许并发的读操作或者并发的写操作

demo

import fcntl
import threading
import time
 
 
def writetoTxt(txtFile):
 id = threading.currentThread().getName()
 with open(txtFile, 'a') as f:
  fcntl.flock(f.fileno(), fcntl.LOCK_EX) #加锁
  print "{0} acquire lock".format(id)
  f.write("write from {0} \r\n".format(id))
  time.sleep(3)
 # 在with块外,文件关闭,自动解锁
 print "{0} exit".format(id)
 
 
for i in range(5):
 myThread = threading.Thread(target=writetoTxt, args=("test.txt",))
 myThread.start()

代码运行期间,控制台将依次打印哪个线程获得了锁,在对文件进行读写。

Thread-1 acquire lock
Thread-1 exit
Thread-2 acquire lock
Thread-2 exit
Thread-3 acquire lock
Thread-3 exit
Thread-5 acquire lock
Thread-5 exit
Thread-4 acquire lock
Thread-4 exit

小结

通过调用

fcntl.flock(f.fileno(), fcntl.LOCK_EX)

对文件加锁,如果有其他线程尝试对test文件加锁,会被阻塞。

当线程执行完毕的时候,锁会自动释放。或者也可以采取主动的方式解锁:调用

fcntl.flock(f.fileno(),fcntl.LOCK_UN)

函数, 对文件test解锁

使用线程锁

当多个线程共享一个数据的时候,必须要进行同步的控制,不然会出现不可预期的结果,即 “线程不安全”

线程同步能够保证多个线程安全访问竞争资源,最简单的同步机制是引入互斥锁。

互斥锁为资源引入一个状态:锁定/非锁定。

某个线程要更改共享数据时,先将其锁定,此时资源的状态为“锁定”,其他线程不能更改;

直到该线程释放资源,将资源的状态变成“非锁定”,其他的线程才能再次锁定该资源。

互斥锁保证了每次只有一个线程进行写入操作,从而保证了多线程情况下数据的正确性。

threading模块中定义了Lock类,可以方便的处理锁定:

#创建锁
mutex = threading.Lock()
#锁定
mutex.acquire([timeout])
#解锁
mutex.release()

Demo

使用互斥锁实现上面的例子的代码如下:

import threading
import time
 
def writetoTxt(txtFile):
 id = threading.currentThread().getName()
 mutex.acquire(10)
 with open(txtFile, 'a') as f:
  print "Thread {0} acquire lock".format(id)
  f.write("write from thread {0} \r\n".format(id))
  time.sleep(3)
 mutex.release()
 print "Thread {0} exit".format(id)
 
 
mutex = threading.Lock()
 
for i in range(5):
 myThread = threading.Thread(target=writetoTxt, args=("test.txt",))
 myThread.start()

(上述代码本质上是一个顺序执行的单线程)

结果:

Thread Thread-1 acquire lock
Thread Thread-1 exit
Thread Thread-2 acquire lock
Thread Thread-2 exit
Thread Thread-3 acquire lock
Thread Thread-3 exit
Thread Thread-4 acquire lock
Thread Thread-4 exit
Thread Thread-5 acquire lock
Thread Thread-5 exit

小结

当一个线程调用锁的acquire()方法获得锁时,锁就进入“locked”状态。每次只有一个线程可以获得锁。如果此时另一个线程试图获得这个锁,该线程就会变为“blocked”状态,称为“同步阻塞”。

直到拥有锁的线程调用锁的release()方法释放锁之后,锁进入“unlocked”状态。线程调度程序从处于同步阻塞状态的线程中选择一个来获得锁,并使得该线程进入运行(running)状态。

以上这篇对Python多线程读写文件加锁的实例详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
400多行Python代码实现了一个FTP服务器
May 10 Python
python实现socket客户端和服务端简单示例
Feb 24 Python
使用PDB简单调试Python程序简明指南
Apr 25 Python
python实现中文分词FMM算法实例
Jul 10 Python
Python中文件I/O高效操作处理的技巧分享
Feb 04 Python
Ubuntu 下 vim 搭建python 环境 配置
Jun 12 Python
Python实现输出某区间范围内全部素数的方法
May 02 Python
python 使用值来排序一个字典的方法
Nov 16 Python
python爬虫超时的处理的实例
Dec 19 Python
python的mysql数据库建立表与插入数据操作示例
Sep 30 Python
Python+unittest+requests+excel实现接口自动化测试框架
Dec 23 Python
python tkinter实现下载进度条及抖音视频去水印原理
Feb 07 Python
Python多进程写入同一文件的方法
Jan 14 #Python
python 将大文件切分为多个小文件的实例
Jan 14 #Python
使用k8s部署Django项目的方法步骤
Jan 14 #Python
Python数据可视化教程之Matplotlib实现各种图表实例
Jan 13 #Python
python中使用 xlwt 操作excel的常见方法与问题
Jan 13 #Python
用Python实现大文本文件切割的方法
Jan 12 #Python
python实时获取外部程序输出结果的方法
Jan 12 #Python
You might like
PHP实现对站点内容外部链接的过滤方法
2014/09/10 PHP
php实现字符串首字母转换成大写的方法
2015/03/17 PHP
php rmdir使用递归函数删除非空目录实例详解
2016/10/20 PHP
PHP信号处理机制的操作代码讲解
2019/04/19 PHP
阿里对象存储OSS在laravel框架中的使用方法
2019/10/13 PHP
laravel 框架实现无限级分类的方法示例
2019/10/31 PHP
设置jsf的选择框h:selectOneMenu为不可编辑状态的方法
2014/01/07 Javascript
jQuery的选择器中的通配符使用介绍
2014/03/20 Javascript
可编辑下拉框的2种实现方式
2014/06/13 Javascript
快速学习jQuery插件 Cookie插件使用方法
2015/12/01 Javascript
JavaScript重载函数实例剖析
2016/05/13 Javascript
AngularJs expression详解及简单示例
2016/09/01 Javascript
Bootstrap模态框调用功能实现方法
2016/09/19 Javascript
用js实现博客打赏功能
2016/10/24 Javascript
两种简单的跨域方法(jsonp、php)
2017/01/02 Javascript
一篇文章搞定JavaScript类型转换(面试常见)
2017/01/21 Javascript
Vue.js实例方法之生命周期详解
2017/07/03 Javascript
解决layui中onchange失效以及form动态渲染失效的问题
2019/09/27 Javascript
js实现课堂随机点名系统
2019/11/21 Javascript
[01:00]选手抵达华西村 整装待发备战2016国际邀请赛中国区预选赛
2016/06/25 DOTA
[00:30]明星选手化身超级英雄!2018DOTA2亚洲邀请赛全明星赛来临!
2018/04/06 DOTA
python下paramiko模块实现ssh连接登录Linux服务器
2015/06/03 Python
Python对象转换为json的方法步骤
2019/04/25 Python
python使用matplotlib绘制雷达图
2019/10/18 Python
Python数据可视化处理库PyEcharts柱状图,饼图,线性图,词云图常用实例详解
2020/02/10 Python
利用Python发送邮件或发带附件的邮件
2020/11/12 Python
python 基于opencv 绘制图像轮廓
2020/12/11 Python
The Hut美国/加拿大:英国领先的豪华在线百货商店
2019/03/26 全球购物
Koral官方网站:女性时尚运动服
2019/04/10 全球购物
求职信内容考虑哪几点
2013/10/05 职场文书
后勤管理员岗位职责
2014/08/27 职场文书
学习党的群众路线教育实践活动心得体会范文
2014/11/03 职场文书
2016年端午节寄语
2015/12/04 职场文书
windows下快速安装nginx并配置开机自启动的方法
2021/05/11 Servers
python元组打包和解包过程详解
2021/08/02 Python
详解Python+OpenCV绘制灰度直方图
2022/03/22 Python