Python使用protobuf序列化和反序列化的实现


Posted in Python onMay 19, 2021

protobuf介绍

protobuf是一种二进制的序列化格式,相对于json来说体积更小,传输更快。

安装protobuf

安装protobuf的目的主要用来将proto文件编译成python、c、Java可调用的接口。

# 如果gcc版本较低,需要升级gcc
wget https://main.qcloudimg.com/raw/d7810aaf8b3073fbbc9d4049c21532aa/protobuf-2.6.1.tar.gz
tar -zxvf protobuf-2.6.1.tar.gz -C /usr/local/ && cd /usr/local/protobuf-2.6.1
./configure 
make && make install
# 可以在/etc/profile或者~/.bash_profile末尾设置永久有效
export PATH=$PATH:/usr/local/protobuf-2.6.1/bin

使用下面命令查看是否安装成功。

[root@CodeOnTheRoad ~]# protoc --version
libprotoc 2.6.1

构建python接口

创建cls.proto文件,定义序列化结构:

package cls;

message Log
{
    message Content
    {
        required string key   = 1; // 每组字段的 key
        required string value = 2; // 每组字段的 value
    }
    required int64   time     = 1; // 时间戳,UNIX时间格式
    repeated Content contents = 2; // 一条日志里的多个kv组合
}

message LogTag
{
    required string key       = 1;
    required string value     = 2;
}

message LogGroup
{
    repeated Log    logs        = 1; // 多条日志合成的日志数组
    optional string contextFlow = 2; // 目前暂无效用
    optional string filename    = 3; // 日志文件名
    optional string source      = 4; // 日志来源,一般使用机器IP
    repeated LogTag logTags     = 5;
}

message LogGroupList
{
    repeated LogGroup logGroupList = 1; // 日志组列表
}

只用下面命令将proto文件转换为python可调用的接口。

protoc cls.proto --python_out=./

执行完后,在此目录下生成cls_pb2.py。

序列化

import cls_pb2 as cls
import time

# 构建protoBuf日志内容
LogLogGroupList = cls.LogGroupList()

LogGroup = LogLogGroupList.logGroupList.add()
LogGroup.contextFlow = "1"
LogGroup.filename = "python.log"
LogGroup.source = "localhost"

LogTag = LogGroup.logTags.add()
LogTag.key = "key"
LogTag.value = "value"

Log = LogGroup.logs.add()
Log.time = int(round(time.time() * 1000000))

Content = Log.contents.add()
Content.key = "Hello"
Content.value = "World"
print(LogLogGroupList)
# 序列化
data = LogLogGroupList.SerializeToString()
print(data)

其实就是讲一个protobuf的结构文本序列化成了二进制的形式。

反序列化

反序列化就是将二进制转换成protobuf结构。

# 反序列化
LogLogGroupList = cls.LogGroupList()
LogLogGroupList.ParseFromString(data)
print(LogLogGroupList)

运行结果

上面序列化和反序列化代码结果运行如下:

Python使用protobuf序列化和反序列化的实现

到此这篇关于Python使用protobuf序列化和反序列化的实现的文章就介绍到这了,更多相关Python 序列化和反序列化内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python脚本实现查找webshell的方法
Jul 31 Python
在IIS服务器上以CGI方式运行Python脚本的教程
Apr 25 Python
python素数筛选法浅析
Mar 19 Python
Python中修改字符串的四种方法
Nov 02 Python
scrapy-redis的安装部署步骤讲解
Feb 27 Python
Django Admin中增加导出Excel功能过程解析
Sep 04 Python
softmax及python实现过程解析
Sep 30 Python
pandas数据处理进阶详解
Oct 11 Python
python创建n行m列数组示例
Dec 02 Python
pytorch dataloader 取batch_size时候出现bug的解决方式
Feb 20 Python
Python 机器学习工具包SKlearn的安装与使用
May 14 Python
Python实现视频自动打码的示例代码
Apr 08 Python
详解分布式系统中如何用python实现Paxos
May 18 #Python
如何在向量化NumPy数组上进行移动窗口
Python如何配置环境变量详解
Python打包为exe详细教程
Python基础之数据类型知识汇总
May 18 #Python
Python实战之疫苗研发情况可视化
Python打包exe时各种异常处理方案总结
You might like
destoon调用企业会员公司形象图片的实现方法
2014/08/21 PHP
PHP 中 var_export、print_r、var_dump 调试中的区别
2018/06/19 PHP
基于Jquery的简单&简陋Tabs插件代码
2010/02/09 Javascript
JavaScript中获取元素索引的函数
2010/09/10 Javascript
javascript自动生成包含数字与字符的随机字符串
2015/02/09 Javascript
jQuery实现时尚漂亮的弹出式对话框实例
2015/08/07 Javascript
jQuery.extend 函数及用法详细
2015/09/06 Javascript
JS实现新浪博客左侧的Blog管理菜单效果代码
2015/10/22 Javascript
全面介绍javascript实用技巧及单竖杠
2016/07/18 Javascript
JS仿百度自动下拉框模糊匹配提示
2016/07/25 Javascript
Vue.js中用v-bind绑定class的注意事项
2016/12/13 Javascript
JavaScript仿聊天室聊天记录
2016/12/27 Javascript
详解Vue2.0 事件派发与接收
2017/09/05 Javascript
基于jQuery的$.getScript方法去加载javaScript文档解析
2017/11/08 jQuery
在Vue环境下利用worker运行interval计时器的步骤
2019/08/01 Javascript
微信小程序sessionid不一致问题解决
2019/08/30 Javascript
layui+jquery支持IE8的表格分页方法
2019/09/28 jQuery
js实现经典贪吃蛇小游戏
2020/03/19 Javascript
JS实现电脑虚拟键盘打字测试
2020/06/24 Javascript
[00:20]DOTA2荣耀之路7:-ah fu-抢盾
2018/05/31 DOTA
Python tempfile模块学习笔记(临时文件)
2014/05/25 Python
分享一个简单的python读写文件脚本
2017/11/25 Python
ubuntu安装mysql pycharm sublime
2018/02/20 Python
python使用openpyxl库修改excel表格数据方法
2018/05/03 Python
Python csv文件的读写操作实例详解
2019/11/19 Python
python Jupyter运行时间实例过程解析
2019/12/13 Python
春节到了 教你使用python来抢票回家
2020/01/06 Python
pycharm无法导入本地模块的解决方式
2020/02/12 Python
python数据库开发之MongoDB安装及Python3操作MongoDB数据库详细方法与实例
2020/03/18 Python
Windows下Anaconda和PyCharm的安装与使用详解
2020/04/23 Python
什么是python的函数体
2020/06/19 Python
Coach澳大利亚官方网站:美国著名时尚奢侈品牌
2017/05/24 全球购物
高校生生产实习自我鉴定
2013/09/21 职场文书
党校学习自我鉴定
2014/02/24 职场文书
机械工程及自动化专业求职信
2014/09/03 职场文书
武侯祠导游词
2015/02/04 职场文书