tensorflow没有output结点,存储成pb文件的例子


Posted in Python onJanuary 04, 2020

Tensorflow中保存成pb file 需要 使用函数

graph_util.convert_variables_to_constants(sess, sess.graph_def,

output_node_names=[]) []中需要填写你需要保存的结点。如果保存的结点在神经网络中没有被显示定义该怎么办?

例如我使用了tf.contrib.slim或者keras,在tf的高层很多情况下都会这样。

在写神经网络时,只需要简单的一层层传导,一个slim.conv2d层就包含了kernal,bias,activation function,非常的方便,好处是网络结构一目了然,坏处是什么呢?

tensorflow没有output结点,存储成pb文件的例子

在尝试保存pb的 output node names时,需要将最后的输出结点保存下来,与这个结点相关的,从输入开始,经过层层传递的嵌套函数或者操作的相关结点,都会被保存,但无效的例如 计算准确率,计算loss等,就可以省略了,因为保存的pb主要是用来做预测的。

在准备查看所有的结点名称并选取保存时,发现scope "local3"里面仅有相关的weights 和biases,这两个是单独存在的,即保存这两个参数并没有任何意义。

tensorflow没有output结点,存储成pb文件的例子

那么这时候有两种解决办法:

方法一:

graph_util.convert_variables_to_constants(sess, sess.graph_def, output_node_names=[var.name[:-2] for var in tf.global_variables()])

那么这个的意思是所有的variable的都被保存下来 但函数中要求的是 node name 我们通过 global_variables获得的是 变量名 并不是 节点名

(例如 output:0 就是变量名,又叫tensor name)

output就是 node name了。

在tensorboard中可以一窥究竟

tensorflow没有output结点,存储成pb文件的例子

通过这样 也可以将 所有的变量全部保存下来(但是你并不能使用,是因为你的output并没有名字,所以你不可以通过常用的sess.graph.get_tensor_by_name来使用)

方法二:

那就是直接改写神经网络了....当然了还是比较简单的,只要改写最后一个,改写成output即可,tensorflow中无论是 变量、操作op、函数、都可以命名,那么这个地方是一个简单的全连接,仅需要将weights*net(上一层的输出) +bias 即可,我们只要将bias相加的结果命名为 ouput即可:

with tf.name_scope('local3'):
 
  local3_weights = tf.Variable(tf.truncated_normal([4096, self.output_size], stddev=0.1))
 
  local3_bias = tf.Variable(tf.constant(0.1, shape=[self.output_size]))
 
result = tf.add(tf.matmul(net, local3_weights), local3_bias, name="output")

这样将上述的convert_variables_to_constants中的output_node_names只需要填写一个['output']即可,因为这一个output结点,需要从input开始,将所有的神经网络前向传播的操作和参数全部保存下来,因此保存的结点数量 和 方法一保存的结点数量是一样的(console显示都是 convert 24)。

完整的pb保存为:(我是将ckpt读入进来,然后存成pb的)

from tensorflow.python.platform import gfile
 
 
 
load_ckpt():
 
  path = './data/output/loss1.0/'
 
  print("read from ckpt")
 
  ckpt = tf.train.get_checkpoint_state(path)
 
  saver = tf.train.Saver()
 
  saver.restore(sess, ckpt.model_checkpoint_path)
 
 
 
def write2pb_file():
 
  constant_graph = graph_util.convert_variables_to_constants(sess, sess.graph_def,
 
    output_node_names=["output"])
 
  with tf.gfile.GFile(path+'loss1.0.pb', mode='wb') as f:
 
  f.write(constant_graph.SerializeToString())
 
  print("Model is saved as " + path+'loss1.0.pb')
 
 
 
def main():
 
  load_ckpt()
 
  write2pb_file()

如果是简单的直接保存,那就更简单了。

pb文件的read,很多人会将一个net写成一个类,在引入的时候会将新建这个类,然后读入ckpt文件,这完全没有问题,但是在读取pb时,就会发生问题,因为pb中已经包含了图与参数,引入时会创建一个默认的图,但是net类中自己也会创建一个图,那么这时候你运行程序,参数其实并没有使用.pb的文件。

所以我们不能创建net类,然后直接读入.pb文件,对.pb文件,通过如下代码,获取.pb的graph中的输入和输出。

self.output = self.sess.graph.get_tensor_by_name("output:0")
 
self.input = self.sess.graph.get_tensor_by_name("images:0")

注意此时要加:0 因为你获取的不再是结点了,而是一个真实的变量,我的理解是,结点相当于一个类,:0是对象,默认初始化值就是对象的初始化。

然后就可以通过self.sess.run(self.output(feed_dict={self.input: your_input})))运行你的网络了!

以上这篇tensorflow没有output结点,存储成pb文件的例子就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python读写文件方法总结
Jun 09 Python
python简单线程和协程学习心得(分享)
Jun 14 Python
Python网络编程之TCP套接字简单用法示例
Apr 09 Python
详解TensorFlow查看ckpt中变量的几种方法
Jun 19 Python
python3.X 抓取火车票信息【修正版】
Jun 19 Python
把pandas转换int型为str型的方法
Jan 29 Python
Python使用MyQR制作专属动态彩色二维码功能
Jun 04 Python
浅谈matplotlib.pyplot与axes的关系
Mar 06 Python
如何基于python3和Vue实现AES数据加密
Mar 27 Python
Python 实现自动完成A4标签排版打印功能
Apr 09 Python
基于FME使用Python过程图解
May 13 Python
selenium携带cookies模拟登陆CSDN的实现
Jan 19 Python
TensorFlow查看输入节点和输出节点名称方式
Jan 04 #Python
根据tensor的名字获取变量的值方式
Jan 04 #Python
将tensorflow.Variable中的某些元素取出组成一个新的矩阵示例
Jan 04 #Python
tensorflow实现tensor中满足某一条件的数值取出组成新的tensor
Jan 04 #Python
对tensorflow中的strides参数使用详解
Jan 04 #Python
tensorflow之获取tensor的shape作为max_pool的ksize实例
Jan 04 #Python
TensorFlow tf.nn.max_pool实现池化操作方式
Jan 04 #Python
You might like
二次元帅气男生排行榜,只想悄悄收藏系列
2020/03/04 日漫
php中的时间处理
2006/10/09 PHP
php实现的在线人员函数库
2008/04/09 PHP
PHP初学者常见问题集合 修正版(21问答)
2010/03/23 PHP
ThinkPHP采用GET方式获取中文参数查询无结果的解决方法
2014/06/26 PHP
phpQuery让php处理html代码像jQuery一样方便
2015/01/06 PHP
apache集成php7.3.5的详细步骤
2019/06/20 PHP
Laravel框架处理用户的请求操作详解
2019/12/20 PHP
Javascript string 扩展库代码
2010/04/09 Javascript
jQuery:节点(插入,复制,替换,删除)操作
2013/03/04 Javascript
JS获得浏览器版本和操作系统版本的例子
2014/05/13 Javascript
纯javascript实现四方向文本无缝滚动效果
2015/06/16 Javascript
Javascript实现鼠标右键特色菜单
2015/08/04 Javascript
详解JavaScript的表达式与运算符
2015/11/30 Javascript
Javascript实现图片轮播效果(一)让图片跳动起来
2016/02/17 Javascript
jQuery实现带延时功能的水平多级菜单效果【附demo源码下载】
2016/09/21 Javascript
解决js相同的正则多次调用test()返回的值却不同的问题
2018/10/10 Javascript
Vue双向绑定实现原理与方法详解
2020/05/07 Javascript
解决Nuxt使用axios跨域问题
2020/07/06 Javascript
手把手教你实现 Promise的使用方法
2020/09/02 Javascript
[46:28]EG vs Liquid 2019国际邀请赛淘汰赛 败者组 BO3 第二场 8.23
2019/09/05 DOTA
python实现巡检系统(solaris)示例
2014/04/02 Python
深入Python函数编程的一些特性
2015/04/13 Python
python实现对一个完整url进行分割的方法
2015/04/29 Python
Python实现小数转化为百分数的格式化输出方法示例
2017/09/20 Python
python机器学习库常用汇总
2017/11/15 Python
python版学生管理系统
2018/01/10 Python
python装饰器使用实例详解
2019/12/14 Python
内蒙古鄂尔多斯市市长寄语
2014/04/10 职场文书
卖房协议书
2014/04/11 职场文书
《与朱元思书》的教学反思
2014/04/17 职场文书
施工安全承诺书
2014/05/22 职场文书
小学教师培训方案
2014/06/09 职场文书
元旦趣味活动方案
2014/08/22 职场文书
优秀共产党员事迹材料
2014/12/18 职场文书
会计主管竞聘书
2015/09/15 职场文书