Python内存映射文件读写方式


Posted in Python onApril 24, 2020

我就废话不多说了,还是直接看代码吧!

import os
import time
import mmap
 
filename = 'test.txt'
 
#如果不存在,创建。
if not os.path.exists(filename):
 open(filename, 'w')
 
print(os.path.isdir(filename))
if os.path.isfile(filename):
 print(time.ctime(os.path.getctime(filename)))
 
fd = os.open(filename, os.O_RDWR)
m = mmap.mmap(fd, 50, access=mmap.ACCESS_WRITE) # 1024字节的文件。
m.seek(2) 
buf1 = bytes(b'Zhang')
m[2:len(buf1)+2] = buf1
 
buf2 = b'Phil'
 
m.seek(20) # 定位写入的位置。
m.write(buf2) # 写入字节数据。
m.close()
 
fd = os.open(filename, os.O_RDWR)
m = mmap.mmap(fd, 50, access=mmap.ACCESS_READ)
m.seek(20)
buf3 = m.read(len(buf2))
m.close()
print(list(buf3))

操作后的test.txt文件内容:

Zhang Phil

补充知识:Python对二进制文件做内存映射,高效优雅地对内容随机访问

读写二进制文件还在使用open函数?

各种组合seek()、read()和write()累不累?

使用 mmap 模块实现对文件的内存映射,让我们读写二进制文件像操作数组一样高效优雅。

先给出一个实用函数,用来演示如何打开一个文件并对它进行内存映射操作。

def memory_map(filename, access=mmap.ACCESS_WRITE):
 size = os.path.getsize(filename)
 fd = os.open(filename, os.O_RDWR)
 return mmap.mmap(fd, size, access=access)

要使用这个函数,需要先准备一个已经创建好的文件并为之填充一些数据。

>>> size = 1000000
>>> with open('data','wb') as f:
  f.seek(size-1)
  f.write(b'\x00')

接着我们可以使用memory_map()函数对文件内容做内存映射,它返回的mmap对象可以让我们像操作数组一样读写二进制文件!

>>> m = memory_map('data')
>>> len(m)
1000000
>>> m[:10]
b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00'
>>> m[0]
0
>>> m[0:11]=b'Hello World'#改变一个切片
>>> m.close()
>>> with open('data','rb') as f:#验证改变已经生效
 print(f.read(11))
 
b'Hello World'

由于mmap()返回的mmap对象也可以当作上下文管理器使用,在这种情况下,底层的文件会自动关闭。

>>> with memory_map('data') as m:
 print(len(m))
 print(m[0:11])
 
1000000
b'Hello World'

默认情况下memory_map()函数打开的文件既可以读,也可以写。对数据的任何修改都会拷贝回原始的文件中。

如果需要只读访问,可以为access参数提供mmap.ACCESS_READ值。

m = memory_map(filename, mmap.ACCESS_READ)

如果只想要在本地修改数据,并不想将这些修改写回到原始文件中,可以使用mmap.ACCESS_COPY参数。

m = memory_map(filename, mmap.ACCESS_COPY)

总结:

通过mmap将文件映射到内存之后,我们可以高效并优雅地对文件的内容进行随机访问。

与其打开文件后通过组合各种seek()、read()和write()调用来访问,不如简单将文件映射到内存,然后通过切片操作来访问数据。

需要强调的是,对某个文件进行内存映射并不会导致将整个文件读到内存中。也就是说,文件并不会拷贝到某种内存缓冲区或数组上。相反,操作系统只是为文件内容保留一段虚拟内存而已。

当访问文件的不同区域时,文件的这些区域将被读取并按照需要映射到内存区域中。但是,文件中从未访问过的部分会简单地留在磁盘上。这一切都是以透明的方式在幕后完成的。

如果有多个Python解释器对同一个文件做了内存映射,得到的mmap对象可以用来在解释器之间交换数据。也就是说,所有的解释器可以同时读/写数据,在一个解释器中对数据做出的修改会自动反映到其他解释器上。

虽然还需要一些额外的步骤来处理同步问题,但是有时候可以使用这种方法作为通过管道或者socket传输数据的替代方案。

以上这篇Python内存映射文件读写方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python通过解析网页实现看报程序的方法
Aug 04 Python
python编程实现归并排序
Apr 14 Python
python flask实现分页效果
Jun 27 Python
tensorflow 获取模型所有参数总和数量的方法
Jun 14 Python
Flask框架响应、调度方法和蓝图操作实例分析
Jul 24 Python
详解python中的Turtle函数库
Nov 19 Python
浅谈python中str字符串和unicode对象字符串的拼接问题
Dec 04 Python
更新pip3与pyttsx3文字语音转换的实现方法
Aug 08 Python
Django 返回json数据的实现示例
Mar 05 Python
深入了解Python enumerate和zip
Jul 16 Python
Anaconda的安装与虚拟环境建立
Nov 18 Python
Python中npy和mat文件的保存与读取
Apr 24 Python
pandas的resample重采样的使用
Apr 24 #Python
python实现在内存中读写str和二进制数据代码
Apr 24 #Python
pandas DataFrame 数据选取,修改,切片的实现
Apr 24 #Python
pandas数据选取:df[] df.loc[] df.iloc[] df.ix[] df.at[] df.iat[]
Apr 24 #Python
python查找特定名称文件并按序号、文件名分行打印输出的方法
Apr 24 #Python
python 读取二进制 显示图片案例
Apr 24 #Python
150行python代码实现贪吃蛇游戏
Apr 24 #Python
You might like
需要使用php模板的朋友必看的很多个顶级PHP模板引擎比较分析
2008/05/26 PHP
PHP网页游戏学习之Xnova(ogame)源码解读(四)
2014/06/23 PHP
PHP随手笔记整理之PHP脚本和JAVA连接mysql数据库
2015/11/25 PHP
从性能方面考虑PHP下载远程文件的3种方法
2015/12/29 PHP
php断点续传之文件分割合并详解
2016/12/13 PHP
PHP递归算法的简单实例
2019/02/28 PHP
用户注册常用javascript代码
2009/08/29 Javascript
jquery实现选中单选按钮下拉伸缩效果
2015/08/06 Javascript
JS实现CheckBox复选框全选、不选或全不选功能
2020/07/28 Javascript
JavaScript中日常收集常见的10种错误(推荐)
2017/01/08 Javascript
canvas实现简易的圆环进度条效果
2017/02/28 Javascript
详解微信小程序 通过控制CSS实现view隐藏与显示
2017/05/24 Javascript
nodejs实现大文件(在线视频)的读取
2020/10/16 NodeJs
js数组方法reduce经典用法代码分享
2018/01/07 Javascript
基于vue开发的在线付费课程应用过程
2018/01/25 Javascript
在vue-cli搭建的项目中增加后台mock接口的方法
2018/04/26 Javascript
微信小程序动态生成二维码的实现代码
2018/07/25 Javascript
基于nodejs的雪碧图制作工具的示例代码
2018/11/05 NodeJs
[00:28]DOTA2北京网鱼队选拔赛
2015/04/08 DOTA
[00:47]DOTA2荣耀之路6:玩不了啦!
2018/05/30 DOTA
python实现自动更换ip的方法
2015/05/05 Python
使用url_helper简化Python中Django框架的url配置教程
2015/05/30 Python
Ubuntu下使用Python实现游戏制作中的切分图片功能
2018/03/30 Python
django的ORM操作 删除和编辑实现详解
2019/07/24 Python
Python 解决OPEN读文件报错 ,路径以及r的问题
2019/12/19 Python
印度最大的旅游网站:MakeMyTrip
2016/10/05 全球购物
以工厂直接定价的传奇性能:Ben Hogan Golf
2019/01/04 全球购物
波兰家居饰品和厨房配件网上商店:Maleomi
2020/12/15 全球购物
员工自我鉴定
2013/10/09 职场文书
销售冠军获奖感言
2014/02/03 职场文书
违反校纪校规检讨书
2014/02/15 职场文书
授权委托书格式范文
2014/08/02 职场文书
2014年乡镇领导个人整改措施
2014/09/19 职场文书
逃课打麻将检讨书
2014/10/05 职场文书
关于环保的宣传稿
2015/07/23 职场文书
JavaScript组合继承详解
2021/11/07 Javascript