Python使用struct处理二进制的实例详解


Posted in Python onSeptember 11, 2017

Python使用struct处理二进制的实例详解

有的时候需要用python处理二进制数据,比如,存取文件,socket操作时.这时候,可以使用python的struct模块来完成.可以用 struct来处理c语言中的结构体. 

  • struct模块中最重要的三个函数是pack(), unpack(), calcsize()
  • pack(fmt, v1, v2, ...)     按照给定的格式(fmt),把数据封装成字符串(实际上是类似于c结构体的字节流)
  • unpack(fmt, string)       按照给定的格式(fmt)解析字节流string,返回解析出来的tuple
  • calcsize(fmt)                 计算给定的格式(fmt)占用多少字节的内存 

struct中支持的格式如下表:

Format C Type Python 字节数
x pad byte no value 1
c char string of length 1 1
b signed char integer 1
B unsigned char integer 1
? _Bool bool 1
h short integer 2
H unsigned short integer 2
i int integer 4
I unsigned int integer or long 4
l long integer 4
L unsigned long long 4
q long long long 8
Q unsigned long long long 8
f float float 4
d double float 8
s char[] string 1
p char[] string 1
P void * long

注1.q和Q只在机器支持64位操作时有意思
注2.每个格式前可以有一个数字,表示个数
注3.s格式表示一定长度的字符串,4s表示长度为4的字符串,但是p表示的是pascal字符串
注4.P用来转换一个指针,其长度和机器字长相关
注5.最后一个可以用来表示指针类型的,占4个字节

为了同c中的结构体交换数据,还要考虑有的c或c++编译器使用了字节对齐,通常是以4个字节为单位的32位系统,故而struct根据本地机器字节顺序转换.可以用格式中的第一个字符来改变对齐方式.定义如下:

Character Byte order Size and alignment
@ native native            凑够4个字节
= native standard        按原字节数
little-endian standard        按原字节数
> big-endian standard       按原字节数
! network (= big-endian) standard       按原字节数

使用方法是放在fmt的第一个位置,就像'@5s6sif' 

示例一:

比如有一个结构体

struct Header
{
  unsigned short id;
  char[4] tag;
  unsigned int version;
  unsigned int count;
}

通过socket.recv接收到了一个上面的结构体数据,存在字符串s中,现在需要把它解析出来,可以使用unpack()函数.

import struct id, tag, version, count = struct.unpack("!H4s2I", s)

上面的格式字符串中,!表示我们要使用网络字节顺序解析,因为我们的数据是从网络中接收到的,在网络上传送的时候它是网络字节顺序的.后面的H表示 一个unsigned short的id,4s表示4字节长的字符串,2I表示有两个unsigned int类型的数据.

就通过一个unpack,现在id, tag, version, count里已经保存好我们的信息了.

同样,也可以很方便的把本地数据再pack成struct格式.

ss = struct.pack("!H4s2I", id, tag, version, count);

pack函数就把id, tag, version, count按照指定的格式转换成了结构体Header,ss现在是一个字符串(实际上是类似于c结构体的字节流),可以通过 socket.send(ss)把这个字符串发送出去.

示例二:

import struct
a=12.34
#将a变为二进制
bytes=struct.pack('i',a)

此时bytes就是一个string字符串,字符串按字节同a的二进制存储内容相同。

再进行反操作

现有二进制数据bytes,(其实就是字符串),将它反过来转换成python的数据类型:

a,=struct.unpack('i',bytes)

注意,unpack返回的是tuple

所以如果只有一个变量的话:

bytes=struct.pack('i',a)

那么,解码的时候需要这样

a,=struct.unpack('i',bytes) 或者 (a,)=struct.unpack('i',bytes)

如果直接用a=struct.unpack('i',bytes),那么 a=(12.34,) ,是一个tuple而不是原来的浮点数了。

如果是由多个数据构成的,可以这样:

a='hello'
b='world!'
c=2
d=45.123
bytes=struct.pack('5s6sif',a,b,c,d)

此时的bytes就是二进制形式的数据了,可以直接写入文件比如 binfile.write(bytes)

然后,当我们需要时可以再读出来,bytes=binfile.read()

再通过struct.unpack()解码成python变量

a,b,c,d=struct.unpack('5s6sif',bytes)

'5s6sif'这个叫做fmt,就是格式化字符串,由数字加字符构成,5s表示占5个字符的字符串,2i,表示2个整数等等,下面是可用的字符及类型,ctype表示可以与python中的类型一一对应。

注意:二进制文件处理时会碰到的问题

我们使用处理二进制文件时,需要用如下方法

binfile=open(filepath,'rb')  读二进制文件

binfile=open(filepath,'wb')  写二进制文件

那么和binfile=open(filepath,'r')的结果到底有何不同呢?

不同之处有两个地方:

第一,使用'r'的时候如果碰到'0x1A',就会视为文件结束,这就是EOF。使用'rb'则不存在这个问题。即,如果你用二进制写入再用文本读出的话,如果其中存在'0X1A',就只会读出文件的一部分。使用'rb'的时候会一直读到文件末尾。

第二,对于字符串x='abc\ndef',我们可用len(x)得到它的长度为7,\n我们称之为换行符,实际上是'0X0A'。当我们用'w'即文本方式写的时候,在windows平台上会自动将'0X0A'变成两个字符'0X0D','0X0A',即文件长度实际上变成8.。当用'r'文本方式读取时,又自动的转换成原来的换行符。如果换成'wb'二进制方式来写的话,则会保持一个字符不变,读取时也是原样读取。所以如果用文本方式写入,用二进制方式读取的话,就要考虑这多出的一个字节了。'0X0D'又称回车符。linux下不会变。因为linux只使用'0X0A'来表示换行。

 如有疑问请留言或者到本站社区交流讨论,感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!

Python 相关文章推荐
PYTHON 中使用 GLOBAL引发的一系列问题
Oct 12 Python
python多线程socket编程之多客户端接入
Sep 12 Python
python基础练习之几个简单的游戏
Nov 10 Python
详解Python 函数如何重载?
Apr 23 Python
十个Python练手的实战项目,学会这些Python就基本没问题了(推荐)
Apr 26 Python
Python如何实现转换URL详解
Jul 02 Python
Python中typing模块与类型注解的使用方法
Aug 05 Python
解决json中ensure_ascii=False的问题
Apr 03 Python
keras训练曲线,混淆矩阵,CNN层输出可视化实例
Jun 15 Python
Python结合Window计划任务监测邮件的示例代码
Aug 05 Python
python安装cx_Oracle和wxPython的方法
Sep 14 Python
Django框架模板用法详解
Jun 10 Python
Python基于回溯法子集树模板解决野人与传教士问题示例
Sep 11 #Python
Python 高级专用类方法的实例详解
Sep 11 #Python
Python 异常处理的实例详解
Sep 11 #Python
Python基于回溯法子集树模板解决马踏棋盘问题示例
Sep 11 #Python
Python基于回溯法子集树模板解决找零问题示例
Sep 11 #Python
详解 Python 与文件对象共事的实例
Sep 11 #Python
Python 私有函数的实例详解
Sep 11 #Python
You might like
用PHP和ACCESS写聊天室(十)
2006/10/09 PHP
mysql5的sql文件导入到mysql4的方法
2008/10/19 PHP
快速开发一个PHP扩展图文教程
2008/12/12 PHP
php根据isbn书号查询amazon网站上的图书信息的示例
2014/02/13 PHP
PHP实现登陆表单提交CSRF及验证码
2017/01/24 PHP
PHP使用第三方即时获取物流动态实例详解
2017/04/27 PHP
PHP JWT初识及其简单示例
2018/10/10 PHP
laravel框架 api自定义全局异常处理方法
2019/10/11 PHP
laravel实现上传图片,并且制作缩略图,按照日期存放的代码
2019/10/16 PHP
php实例分享之实现显示网站运行时间
2014/05/20 Javascript
JQuery中DOM加载与事件执行实例分析
2015/06/13 Javascript
js return返回多个值,通过对象的属性访问方法
2017/02/21 Javascript
js实现手机web图片左右滑动效果
2017/12/29 Javascript
使用Vue开发动态刷新Echarts组件的教程详解
2018/03/22 Javascript
jQuery 获取除某指定对象外的其他对象 ( :not() 与.not())
2018/10/10 jQuery
nuxt框架中对vuex进行模块化设置的实现方法
2019/09/06 Javascript
Vue 实现html中根据类型显示内容
2019/10/28 Javascript
小程序实现列表展开收起效果
2020/07/29 Javascript
[01:09:20]NB vs NAVI Supermajor小组赛A组 BO3 第二场 6.2
2018/06/03 DOTA
Python使用jsonpath-rw模块处理Json对象操作示例
2018/07/31 Python
python re库的正则表达式入门学习教程
2019/03/08 Python
Django 中间键和上下文处理器的使用
2019/03/17 Python
Python 生成VOC格式的标签实例
2020/03/10 Python
利用HTML5绘制点线面组成的3D图形的示例
2015/05/12 HTML / CSS
美国最大的骑马用品零售商:HorseLoverZ
2017/01/12 全球购物
YSL圣罗兰美妆俄罗斯官网:Yves Saint Lauret RU
2020/09/23 全球购物
技校生自我鉴定
2013/12/08 职场文书
《灰椋鸟》教学反思
2014/04/27 职场文书
企业优秀员工事迹材料
2014/05/28 职场文书
党的群众路线教育实践活动个人整改措施材料
2014/11/04 职场文书
2014年节能工作总结
2014/12/18 职场文书
毕业生自荐材料范文
2014/12/30 职场文书
2015年世界无烟日活动总结
2015/02/10 职场文书
财政局长个人总结
2015/03/04 职场文书
nginx如何将http访问的网站改成https访问
2021/03/31 Servers
Windows11性能真的上涨35%? 桌面酷睿i9实测结果公开
2021/11/21 数码科技