tensorflow的计算图总结


Posted in Python onJanuary 12, 2020

计算图

在 TensorFlow 中用计算图来表示计算任务。 计算图,是一种有向图,用来定义计算的结构,实际上就是一系列的函数的组合。 用图的方式,用户通过用一些简单的容易理解的数学函数组件,就可以建立一个复杂的运算

在 TensorFlow 使用图,分为两步:建立计算图 和 执行图

图,在形式上由结点 Nodes 和边 Edges 组成。 - Nodes,用圆圈表示,代表一些对数据进行的计算或者操作(Operation)。 - Edges,用箭头表示,是操作之间传递的实际值(Tensor)

建立图

graph = tf.Graph()

访问上下文管理器

with graph.as_default():

用 with 表示我们用 context manager 告诉 TensorFlow 我们要向某个具体的 graph 添加 Op 了

执行图图必须在会话(Session)里被启动,会话(Session)将图的 op 分发到 CPU 或 GPU 之类的设备上,同时提供执行 op 的方法,这些方法执行后,将产生的张量(tensor)返回

## 开启session

sess = tf.Session()`

一旦开启了 Session,就可以用 run() 来计算想要的 Tensor 的值

用完会话,记得关掉

sess.close()

Fetches

fetches是session.run()的一个参数,它可以接收任何一个我们想要执行的op或者Tensor,或者他们对应的list结构。

  • 如果是tensor,那么session.run()输出的就是一个Numpy 数组
  • 如果是Op,那么session.run()输出的就是None

比如:sess.run(b)就是告诉Session要把计算b所需要的结点都找到按顺序执行并且输出结果。

全局变量初始化

tf.global_variables_initializer()

表示将所有定义的Variable变量都准备好,以便于后续使用,这个Op也可以传给给session.run.比如:

init = tf.global_variables_initializer()
…
sess.run(init)

张量Tensor和OP

在tensorflow中使用tensor来表示所有的数据结构,计算图中操作Op结点之间传递的都是Tensor

  • 定义tensor时可以直接使用numpy传递给Op结点,因为tensorflow的Op可以将python的数据类型转化为tensor包括numbers,booleans,strings或者list。
  • 图中的任何结点都叫做Operation简称:Op
  • 每个Op的输出会被传递到其他Op或者sess.run()

Variable

Variable,变量是维护图执行过程中的状态信息的,需要它来保持和更新参数数值,是需要动态调整的。

  • Tensor 和Operation都是一成不变的,而Variable是可以随着时间改变的
  • Variables可以用在任何使用tensor的Op中,它当前的值就会被传递给使用它的Op
  • Variable通常的初始值是一些很大的0,1或者随机值tensor,或者内置op:tf.zeros(),tf.ones()等
  • Variable在graph中,状态由session管理,也是在session中进行初始化,session可以追踪variable的当前值是多少。
  • session可以只初始化一部分variable
  • 使用tf.variables_initializer,传入初始化变量列表
  • variable的值是可以被改变的
  • 比如使用variable.assign(variable),或者variable.assign_add(1)
  • 每个session维护独立的variable变量值,同一个variable不同的session值可以是不同的。
  • 当各种Optimizer优化器训练机器学习模型时,variable就会随之改变,当使用variable中的trainable=False属性可以不被Optimizer改变。

name_scopes

  • name_sopes可以用来管理图,可以把一组Op放到一个组块中

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
利用Fn.py库在Python中进行函数式编程
Apr 22 Python
Python实现配置文件备份的方法
Jul 30 Python
Pyhton中单行和多行注释的使用方法及规范
Oct 11 Python
Python构建XML树结构的方法示例
Jun 30 Python
pandas.loc 选取指定列进行操作的实例
May 18 Python
python topN 取最大的N个数或最小的N个数方法
Jun 04 Python
python实现音乐下载的统计
Jun 20 Python
python绘制直线的方法
Jun 30 Python
python绘制随机网络图形示例
Nov 21 Python
使用Python paramiko模块利用多线程实现ssh并发执行操作
Dec 05 Python
在Mac中配置Python虚拟环境过程解析
Jun 22 Python
python文件与路径操作神器 pathlib
Apr 01 Python
python利用JMeter测试Tornado的多线程
Jan 12 #Python
Django 批量插入数据的实现方法
Jan 12 #Python
python处理RSTP视频流过程解析
Jan 11 #Python
pyftplib中文乱码问题解决方案
Jan 11 #Python
python实现实时视频流播放代码实例
Jan 11 #Python
python3下pygame如何实现显示中文
Jan 11 #Python
Pytorch 实现sobel算子的卷积操作详解
Jan 10 #Python
You might like
php环境无法上传文件的解决方法
2014/04/30 PHP
PHP统计数值数组中出现频率最多的10个数字的方法
2015/04/20 PHP
php类的扩展和继承用法实例
2015/06/20 PHP
基于JQuery实现异步刷新的代码(转载)
2011/03/29 Javascript
随窗体滑动的小插件sticky源码
2013/06/21 Javascript
Ext JS 4实现带week(星期)的日期选择控件(实战二)
2013/08/21 Javascript
js字母大小写转换实现方法总结
2013/11/13 Javascript
控制input输入框中提示信息的显示和隐藏的方法
2014/02/12 Javascript
jQuery 中DOM 操作详解
2015/01/13 Javascript
基于JS实现类似支付宝支付密码输入框
2016/09/02 Javascript
Bootstrap轮播图学习使用
2017/02/10 Javascript
JS中使用media实现响应式布局
2017/08/04 Javascript
一步步教你利用Canvas对图片进行处理
2017/09/19 Javascript
最新Javascript程序员面试试题和解题方法
2017/11/23 Javascript
angularJs自定义过滤器实现手机号信息隐藏的方法
2018/10/08 Javascript
vue 框架下自定义滚动条(easyscroll)实现方法
2019/08/29 Javascript
jquery实现点击弹出对话框
2020/02/08 jQuery
[14:21]VICI vs EG (BO3)
2018/06/07 DOTA
Python操作json数据的一个简单例子
2014/04/17 Python
Python实现从订阅源下载图片的方法
2015/03/11 Python
Python django实现简单的邮件系统发送邮件功能
2017/07/14 Python
Python面向对象编程基础解析(二)
2017/10/26 Python
基于python OpenCV实现动态人脸检测
2018/05/25 Python
python 用正则表达式筛选文本信息的实例
2018/06/05 Python
python matplotlib库绘制散点图例题解析
2019/08/10 Python
Python 实用技巧之利用Shell通配符做字符串匹配
2019/08/23 Python
python中对_init_的理解及实例解析
2019/10/11 Python
python爬虫中采集中遇到的问题整理
2020/11/27 Python
ABOUT YOU匈牙利:500个最受欢迎的时尚品牌
2019/07/19 全球购物
介绍一下Python中webbrowser的用法
2013/05/07 面试题
桥梁与隧道工程专业本科生求职信
2013/10/08 职场文书
九年级英语教学反思
2014/01/31 职场文书
七年级政治教学反思
2014/02/03 职场文书
学校教师读书活动总结
2014/07/08 职场文书
党校毕业个人总结
2015/02/28 职场文书
毕业班工作总结
2015/08/10 职场文书