tensorflow没有output结点,存储成pb文件的例子


Posted in Python onJanuary 04, 2020

Tensorflow中保存成pb file 需要 使用函数

graph_util.convert_variables_to_constants(sess, sess.graph_def,

output_node_names=[]) []中需要填写你需要保存的结点。如果保存的结点在神经网络中没有被显示定义该怎么办?

例如我使用了tf.contrib.slim或者keras,在tf的高层很多情况下都会这样。

在写神经网络时,只需要简单的一层层传导,一个slim.conv2d层就包含了kernal,bias,activation function,非常的方便,好处是网络结构一目了然,坏处是什么呢?

tensorflow没有output结点,存储成pb文件的例子

在尝试保存pb的 output node names时,需要将最后的输出结点保存下来,与这个结点相关的,从输入开始,经过层层传递的嵌套函数或者操作的相关结点,都会被保存,但无效的例如 计算准确率,计算loss等,就可以省略了,因为保存的pb主要是用来做预测的。

在准备查看所有的结点名称并选取保存时,发现scope "local3"里面仅有相关的weights 和biases,这两个是单独存在的,即保存这两个参数并没有任何意义。

tensorflow没有output结点,存储成pb文件的例子

那么这时候有两种解决办法:

方法一:

graph_util.convert_variables_to_constants(sess, sess.graph_def, output_node_names=[var.name[:-2] for var in tf.global_variables()])

那么这个的意思是所有的variable的都被保存下来 但函数中要求的是 node name 我们通过 global_variables获得的是 变量名 并不是 节点名

(例如 output:0 就是变量名,又叫tensor name)

output就是 node name了。

在tensorboard中可以一窥究竟

tensorflow没有output结点,存储成pb文件的例子

通过这样 也可以将 所有的变量全部保存下来(但是你并不能使用,是因为你的output并没有名字,所以你不可以通过常用的sess.graph.get_tensor_by_name来使用)

方法二:

那就是直接改写神经网络了....当然了还是比较简单的,只要改写最后一个,改写成output即可,tensorflow中无论是 变量、操作op、函数、都可以命名,那么这个地方是一个简单的全连接,仅需要将weights*net(上一层的输出) +bias 即可,我们只要将bias相加的结果命名为 ouput即可:

with tf.name_scope('local3'):
 
  local3_weights = tf.Variable(tf.truncated_normal([4096, self.output_size], stddev=0.1))
 
  local3_bias = tf.Variable(tf.constant(0.1, shape=[self.output_size]))
 
result = tf.add(tf.matmul(net, local3_weights), local3_bias, name="output")

这样将上述的convert_variables_to_constants中的output_node_names只需要填写一个['output']即可,因为这一个output结点,需要从input开始,将所有的神经网络前向传播的操作和参数全部保存下来,因此保存的结点数量 和 方法一保存的结点数量是一样的(console显示都是 convert 24)。

完整的pb保存为:(我是将ckpt读入进来,然后存成pb的)

from tensorflow.python.platform import gfile
 
 
 
load_ckpt():
 
  path = './data/output/loss1.0/'
 
  print("read from ckpt")
 
  ckpt = tf.train.get_checkpoint_state(path)
 
  saver = tf.train.Saver()
 
  saver.restore(sess, ckpt.model_checkpoint_path)
 
 
 
def write2pb_file():
 
  constant_graph = graph_util.convert_variables_to_constants(sess, sess.graph_def,
 
    output_node_names=["output"])
 
  with tf.gfile.GFile(path+'loss1.0.pb', mode='wb') as f:
 
  f.write(constant_graph.SerializeToString())
 
  print("Model is saved as " + path+'loss1.0.pb')
 
 
 
def main():
 
  load_ckpt()
 
  write2pb_file()

如果是简单的直接保存,那就更简单了。

pb文件的read,很多人会将一个net写成一个类,在引入的时候会将新建这个类,然后读入ckpt文件,这完全没有问题,但是在读取pb时,就会发生问题,因为pb中已经包含了图与参数,引入时会创建一个默认的图,但是net类中自己也会创建一个图,那么这时候你运行程序,参数其实并没有使用.pb的文件。

所以我们不能创建net类,然后直接读入.pb文件,对.pb文件,通过如下代码,获取.pb的graph中的输入和输出。

self.output = self.sess.graph.get_tensor_by_name("output:0")
 
self.input = self.sess.graph.get_tensor_by_name("images:0")

注意此时要加:0 因为你获取的不再是结点了,而是一个真实的变量,我的理解是,结点相当于一个类,:0是对象,默认初始化值就是对象的初始化。

然后就可以通过self.sess.run(self.output(feed_dict={self.input: your_input})))运行你的网络了!

以上这篇tensorflow没有output结点,存储成pb文件的例子就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python getopt模块处理命令行选项实例
May 13 Python
python字典多条件排序方法实例
Jun 30 Python
python处理xml文件的方法小结
May 02 Python
python 实现上传图片并预览的3种方法(推荐)
Jul 14 Python
python数据结构链表之单向链表(实例讲解)
Jul 25 Python
Python基于matplotlib实现绘制三维图形功能示例
Jan 18 Python
深入浅析Python获取对象信息的函数type()、isinstance()、dir()
Sep 17 Python
详解Django+uwsgi+Nginx上线最佳实战
Mar 14 Python
详解Python Qt的窗体开发的基本操作
Jul 14 Python
Python closure闭包解释及其注意点详解
Aug 28 Python
Python爬取365好书中小说代码实例
Feb 28 Python
python实现发送QQ邮件(可加附件)
Dec 23 Python
TensorFlow查看输入节点和输出节点名称方式
Jan 04 #Python
根据tensor的名字获取变量的值方式
Jan 04 #Python
将tensorflow.Variable中的某些元素取出组成一个新的矩阵示例
Jan 04 #Python
tensorflow实现tensor中满足某一条件的数值取出组成新的tensor
Jan 04 #Python
对tensorflow中的strides参数使用详解
Jan 04 #Python
tensorflow之获取tensor的shape作为max_pool的ksize实例
Jan 04 #Python
TensorFlow tf.nn.max_pool实现池化操作方式
Jan 04 #Python
You might like
输出控制类
2006/10/09 PHP
PHP脚本的10个技巧(8)
2006/10/09 PHP
非常有用的9个PHP代码片段
2016/04/06 PHP
thinkPHP5.0框架整体架构总览【应用,模块,MVC,驱动,行为,命名空间等】
2017/03/25 PHP
PHP创建单例后台进程的方法示例
2017/05/23 PHP
javascript开发技术大全 第4章 直接量与字符集
2011/07/03 Javascript
Js判断参数(String,Array,Object)是否为undefined或者值为空
2013/11/04 Javascript
js实现弹窗插件功能实例代码分享
2013/12/12 Javascript
jquery显示隐藏input对象
2014/07/21 Javascript
js匿名函数的调用示例(形式多种多样)
2014/08/20 Javascript
javascript使用for循环批量注册的事件不能正确获取索引值的解决方法
2014/12/20 Javascript
JavaScript中document对象使用详解
2015/01/06 Javascript
理解Javascript的动态语言特性
2015/06/17 Javascript
JS清除文本框内容离开在恢复及鼠标离开文本框时触发js的方法
2016/01/12 Javascript
jQuery+canvas实现简单的球体斜抛及颜色动态变换效果
2016/01/28 Javascript
原生JS实现网络彩票投注效果
2016/09/25 Javascript
Angular和Vue双向数据绑定的实现原理(重点是vue的双向绑定)
2016/11/22 Javascript
详解堆的javascript实现方法
2016/11/29 Javascript
JavaScript仿微博输入框效果(案例分析)
2016/12/06 Javascript
MVVM框架下实现分页功能示例
2018/06/14 Javascript
Python爬虫利用cookie实现模拟登陆实例详解
2017/01/12 Python
Python 基础之字符串string详解及实例
2017/04/01 Python
简单了解django orm中介模型
2019/07/30 Python
python使用writerows写csv文件产生多余空行的处理方法
2019/08/01 Python
python输入错误后删除的方法
2019/10/12 Python
python中numpy数组与list相互转换实例方法
2021/01/29 Python
python wsgiref源码解析
2021/02/06 Python
CSS Grid布局教程之浏览器开启CSS Grid Layout汇总
2014/12/30 HTML / CSS
酒店实习个人鉴定
2013/12/07 职场文书
毕业实习评语
2014/02/10 职场文书
求职信标题怎么写
2014/05/26 职场文书
医药公司采购员岗位职责
2014/09/12 职场文书
2015年度服装销售工作总结
2015/03/31 职场文书
2015年大学宣传部工作总结
2015/05/26 职场文书
高温慰问简报
2015/07/21 职场文书
Python爬虫之爬取哔哩哔哩热门视频排行榜
2021/04/28 Python