TensorBoard 计算图的可视化实现


Posted in Python onFebruary 15, 2020

简介

tensorflow 配套的可视化工具, 将你的计算图画出来.

当训练一个巨大的网络的时候, 计算图既复杂又令人困惑. TensorBoard 提供了一系列的组件, 可以看到 learning rate 的变化, 看到 objective function 的变化.

tfboard 读取 tf 运行时你记下的 events files, 来进行可视化. 这些 events files 包含了你记下的 summary data, 它是 protobuffer 格式, 并非文本文件.

推荐使用 Estimator 风格.

类与方法

在 tf.estimator 框架下, 可以直接用 tf.summary.scalar() 这样的方法, 不必显式地创建writer并调用writer.add_summary()

tensorflow.python.summary.writer.writer.FileWriter(SummaryToEventTransformer)

类.

__init__(self, logdir, graph=None,...)

构造函数, Creates a FileWriter and an event file.

tensorflow.python.summary.summary

模块.

scalar(name, tensor, ..) Outputs a Summary protocol buffer containing a single scalar value.

histogram(name, values, collections=None, family=None) Adding a histogram summary makes it possible to visualize your data's distribution in TensorBoard.

image

作图, 对于grap-scale 图来讲, 0表示全黑, 255表示全白.

api, image(name, tensor, max_outputs=3, collections=None, family=None) Outputs a Summary protocol buffer with images. images are built from tensor which must be 4-D with shape [batch_size, height, width, channels] and where channels can be:

1.1-tensor is interpreted as Grayscale.

2.3-tensor is interpreted as RGB.

3.4-tensor is interpreted as RGBA.

tensor为float: 此时, tf会内部作正规化处理, 转换到[0,255](解析 tf_events 即可验证), float通常对应于 softm 之后的概率, 值域为[0,1].

tensor为uint8, 保持不变, tf 不作任何内部转换.

attention 可视化, attention 的权重会作 soft-max 处理, 通常img显示的效果是, 一行看下来有深有浅, 颜色越白weight越大. 但有时后tf内部正规化不符合预期, 出现一行全白的情况, 稳妥起见自己转unit类型.

打开web页面

在命令行中 敲tensorboard --logdir=D:\tf_models\iris, 根据提示打开URL即可.

比如我的为http://yichu-amd:6006/.

效果截图

TensorBoard 计算图的可视化实现

图3-1 logdir中的文件

TensorBoard 计算图的可视化实现

图3-2 炫酷的可视化效果

TensorBoard 计算图的可视化实现

figure 3-3 计算图的可视化

给出一些建议:

网络也是分模块,有结构的, 合理使用 scope 可以让计算图清晰优雅.

有些tensor来自dataset, 有些来自api中op操作的输出, 本身没有明确的名字, 此时用x=tf.identity(x,'name') 给tensor起名字, 便于计算图中定位. 图3-3 中的 memory 就是 encoder 的输出的tensor.

以上这篇TensorBoard 计算图的可视化实现就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python模块restful使用方法实例
Dec 10 Python
Python的Django框架中的数据库配置指南
Jul 17 Python
Python使用getpass库读取密码的示例
Oct 10 Python
Tensorflow实现卷积神经网络用于人脸关键点识别
Mar 05 Python
Python XML转Json之XML2Dict的使用方法
Jan 15 Python
Python笔记之代理模式
Nov 20 Python
利用PyCharm操作Github(仓库新建、更新,代码回滚)
Dec 18 Python
基于python 等频分箱qcut问题的解决
Mar 03 Python
python 函数嵌套及多函数共同运行知识点讲解
Mar 03 Python
jupyter notebook的安装与使用详解
May 18 Python
python实现二分查找算法
Sep 18 Python
Python本地及虚拟解释器配置过程解析
Oct 13 Python
TensorBoard 计算图的查看方式
Feb 15 #Python
pycharm 更改创建文件默认路径的操作
Feb 15 #Python
PyCharm刷新项目(文件)目录的实现
Feb 14 #Python
浅谈Pycharm最有必要改的几个默认设置项
Feb 14 #Python
python图形开发GUI库pyqt5的详细使用方法及各控件的属性与方法
Feb 14 #Python
python图形开发GUI库pyqt5的基本使用方法详解
Feb 14 #Python
Python 写了个新型冠状病毒疫情传播模拟程序
Feb 14 #Python
You might like
用PHP实现维护文件代码
2007/06/14 PHP
php使用异或实现的加密解密实例
2013/09/04 PHP
yii权限控制的方法(三种方法)
2015/12/28 PHP
jQuery中文入门指南,翻译加实例,jQuery的起点教程
2007/01/13 Javascript
Open and Print a Word Document
2007/06/15 Javascript
JavaScript 开发中规范性的一点感想
2009/06/23 Javascript
jquery下利用jsonp跨域访问实现方法
2010/07/29 Javascript
50个比较实用jQuery代码段
2011/09/18 Javascript
基于jQuery的动态增删改查表格信息,可左键/右键提示(原创自Zjmainstay)
2012/07/31 Javascript
定时器(setTimeout/setInterval)调用带参函数失效解决方法
2013/03/26 Javascript
js冒泡法和数组转换成字符串示例代码
2013/08/14 Javascript
js call方法详细介绍(js 的继承)
2013/11/18 Javascript
Javascript 按位左移运算符使用介绍(
2014/02/04 Javascript
js 获取浏览器版本以此来调整CSS的样式
2014/06/03 Javascript
JavaScript中的parse()方法使用简介
2015/06/12 Javascript
BootStrap selectpicker后台动态绑定数据
2017/06/01 Javascript
vuex实现及简略解析(小结)
2019/03/01 Javascript
jQuery+PHP+Ajax实现动态数字统计展示功能
2019/12/25 jQuery
[01:01:18]VP vs NIP 2019国际邀请赛小组赛 BO2 第二场 8.15
2019/08/17 DOTA
python比较两个列表大小的方法
2015/07/11 Python
浅谈python中的数字类型与处理工具
2017/08/02 Python
Python cookbook(数据结构与算法)找到最大或最小的N个元素实现方法示例
2018/02/13 Python
Pyspider中给爬虫伪造随机请求头的实例
2018/05/07 Python
Python+selenium实现自动循环扔QQ邮箱漂流瓶
2018/05/29 Python
python中将两组数据放在一起按照某一固定顺序shuffle的实例
2019/07/15 Python
Python使用matplotlib绘制三维参数曲线操作示例
2019/09/10 Python
关于keras中keras.layers.merge的用法说明
2020/05/23 Python
Melijoe美国官网:法国奢侈童装购物网站
2017/04/19 全球购物
经济实惠的豪华背包和行李袋:Packs Project
2018/10/17 全球购物
世界各地的旅游、观光和活动:Isango!
2019/10/29 全球购物
澳大利亚电商Catch新西兰站:Catch.co.nz
2020/05/30 全球购物
优秀交警事迹材料
2014/01/26 职场文书
互联网电子商务专业毕业生求职信
2014/03/18 职场文书
2014预备党员批评与自我批评思想汇报
2014/09/20 职场文书
端午节活动总结报告
2015/02/11 职场文书
Python探索生命起源 matplotlib细胞自动机动画演示
2022/04/21 Python