TensorFlow固化模型的实现操作


Posted in Python onMay 26, 2020

前言

TensorFlow目前在移动端是无法training的,只能跑已经训练好的模型,但一般的保存方式只有单一保存参数或者graph的,如何将参数、graph同时保存呢?

生成模型

主要有两种方法生成模型,一种是通过freeze_graph把tf.train.write_graph()生成的pb文件与tf.train.saver()生成的chkp文件固化之后重新生成一个pb文件,这一种现在不太建议使用。另一种是把变量转成常量之后写入PB文件中。我们简单的介绍下freeze_graph方法。

freeze_graph

这种方法我们需要先使用tf.train.write_graph()以及tf.train.saver()生成pb文件和ckpt文件,代码如下:

with tf.Session() as sess:
 saver = tf.train.Saver()
 saver.save(session, "model.ckpt")
 tf.train.write_graph(session.graph_def, '', 'graph.pb')

然后使用TensorFlow源码中的freeze_graph工具进行固化操作:

首先需要build freeze_graph 工具( 需要 bazel ):

bazel build tensorflow/python/tools:freeze_graph

然后使用这个工具进行固化(/path/to/表示文件路径):

bazel-bin/tensorflow/python/tools/freeze_graph --input_graph=/path/to/graph.pb --input_checkpoint=/path/to/model.ckpt --output_node_names=output/predict --output_graph=/path/to/frozen.pb
convert_variables_to_constants

其实在TensorFlow中传统的保存模型方式是保存常量以及graph的,而我们的权重主要是变量,如果我们把训练好的权重变成常量之后再保存成PB文件,这样确实可以保存权重,就是方法有点繁琐,需要一个一个调用eval方法获取值之后赋值,再构建一个graph,把W和b赋值给新的graph。

牛逼的Google为了方便大家使用,编写了一个方法供我们快速的转换并保存。

首先我们需要引入这个方法

from tensorflow.python.framework.graph_util import convert_variables_to_constants

在想要保存的地方加入如下代码,把变量转换成常量

output_graph_def = convert_variables_to_constants(sess, sess.graph_def, output_node_names=['output/predict'])

这里参数第一个是当前的session,第二个为graph,第三个是输出节点名(如我的输出层代码是这样的:)

with tf.name_scope('output'):
 w_out = tf.Variable(w_alpha * tf.random_normal([1024, MAX_CAPTCHA * CHAR_SET_LEN]))
 tf.summary.histogram('output/weight', w_out)
 b_out = tf.Variable(b_alpha * tf.random_normal([MAX_CAPTCHA * CHAR_SET_LEN]))
 tf.summary.histogram('output/biases', b_out)
 out = tf.add(tf.matmul(dense2, w_out), b_out)
 out = tf.nn.softmax(out)
 predict = tf.argmax(tf.reshape(out, [-1, 11, 36]), 2, name='predict')

由于我们采用了name_scope所以我们在predict之前需要加上output/

生成文件

with tf.gfile.FastGFile('model/CTNModel.pb', mode='wb') as f:
f.write(output_graph_def.SerializeToString())

第一个参数是文件路径,第二个是指文件操作的模式,这里指的是以二进制的方式写入文件。

运行代码,系统会生成一个PB文件,接下来我们要测试下这个模型是否能够正常的读取、运行。

测试模型

在Python环境下,我们首先需要加载这个模型,代码如下:

with open('./model/rounded_graph.pb', 'rb') as f:
 graph_def = tf.GraphDef()
 graph_def.ParseFromString(f.read())
 output = tf.import_graph_def(graph_def,
     input_map={'inputs/X:0': newInput_X},
     return_elements=['output/predict:0'])

由于我们原本的网络输入值是一个placeholder,这里为了方便输入我们也先定义一个新的placeholder:

newInput_X = tf.placeholder(tf.float32, [None, IMAGE_HEIGHT * IMAGE_WIDTH], name="X")

在input_map的参数填入新的placeholder。

在调用我们的网络的时候直接用这个新的placeholder接收数据,如:

text_list = sesss.run(output, feed_dict={newInput_X: [captcha_image]})

然后就是运行我们的网络,看是否可以运行吧。

以上这篇TensorFlow固化模型的实现操作就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
详解Python的collections模块中的deque双端队列结构
Jul 07 Python
python 识别图片中的文字信息方法
May 10 Python
python hook监听事件详解
Oct 25 Python
python中使用 xlwt 操作excel的常见方法与问题
Jan 13 Python
Python的高阶函数用法实例分析
Apr 11 Python
pytorch索引查找 index_select的例子
Aug 18 Python
python [:3] 实现提取数组中的数
Nov 27 Python
解决python -m pip install --upgrade pip 升级不成功问题
Mar 05 Python
Tensorflow安装问题: Could not find a version that satisfies the requirement tensorflow
Apr 20 Python
Django如何使用jwt获取用户信息
Apr 21 Python
Django如何在不停机的情况下创建索引
Aug 02 Python
python软件测试Jmeter性能测试JDBC Request(结合数据库)的使用详解
Jan 26 Python
Python 如何批量更新已安装的库
May 26 #Python
tensorflow 20:搭网络,导出模型,运行模型的实例
May 26 #Python
Python自定义聚合函数merge与transform区别详解
May 26 #Python
Python Tornado实现WEB服务器Socket服务器共存并实现交互的方法
May 26 #Python
tensorflow实现从.ckpt文件中读取任意变量
May 26 #Python
打印tensorflow恢复模型中所有变量与操作节点方式
May 26 #Python
tensorflow模型的save与restore,及checkpoint中读取变量方式
May 26 #Python
You might like
php把session写入数据库示例
2014/02/26 PHP
Thinkphp的volist标签嵌套循环使用教程
2014/07/08 PHP
destoon调用discuz论坛中带图片帖子的实现方法
2014/08/21 PHP
php实现中文字符截取防乱码方法汇总
2015/04/29 PHP
详解PHP文件的自动加载(autoloading)
2018/02/04 PHP
Laravel 简单实现Ajax滚动加载示例
2019/10/22 PHP
JavaScript 模拟用户单击事件
2009/12/31 Javascript
jquery键盘事件使用介绍
2011/11/01 Javascript
Javascript 数组排序详解
2014/10/22 Javascript
jQuery中next方法用法实例
2015/04/24 Javascript
JS插件overlib用法实例详解
2015/12/26 Javascript
关于JSON与JSONP简单总结
2016/08/16 Javascript
JavaScript用JSONP跨域请求数据实例详解
2017/01/06 Javascript
js图片延迟加载(Lazyload)三种实现方式
2017/03/01 Javascript
ES6新特性五:Set与Map的数据结构实例分析
2017/04/21 Javascript
js阻止默认右键的下拉菜单方法
2018/01/02 Javascript
D3.js实现拓扑图的示例代码
2018/06/30 Javascript
用Vue编写抽象组件的方法
2019/05/06 Javascript
原生js实现可兼容PC和移动端的拖动滑块功能详解【测试可用】
2019/08/15 Javascript
一起写一个即插即用的Vue Loading插件实现
2019/10/31 Javascript
基于javascript的无缝滚动动画实现2
2020/08/07 Javascript
jquery简易手风琴插件的封装
2020/10/13 jQuery
合并百度影音的离线数据( with python 2.3)
2015/08/04 Python
Django实现单用户登录的方法示例
2019/03/28 Python
python 并发编程 阻塞IO模型原理解析
2019/08/20 Python
Python 最强编辑器详细使用指南(PyCharm )
2019/09/16 Python
CSS3实现瀑布流布局与无限加载图片相册的实例代码
2016/12/22 HTML / CSS
美国高端医师级美容产品电商:BeautifiedYou.com
2017/04/17 全球购物
Groupon法国官方网站:特卖和网上购物高达-70%
2019/09/02 全球购物
继承公证书
2014/04/09 职场文书
高中生评语大全
2014/04/25 职场文书
胡雪岩故居导游词
2015/02/06 职场文书
幼儿园新学期开学寄语
2015/05/27 职场文书
同意报考公务员证明
2015/06/17 职场文书
思想工作总结范文
2015/08/12 职场文书
mysql 带多个条件的查询方式
2021/06/05 MySQL