对Tensorflow中的变量初始化函数详解


Posted in Python onJuly 27, 2018

Tensorflow 提供了7种不同的初始化函数:

tf.constant_initializer(value) #将变量初始化为给定的常量,初始化一切所提供的值。

假设在卷积层中,设置偏执项b为0,则写法为:
1. bias_initializer=tf.constant_initializer(0)
2. bias_initializer=tf.zeros_initializer(0)

tf.random_normal_initializer(mean,stddev) #功能是将变量初始化为满足正太分布的随机值,主要参数(正太分布的均值和标准差),用所给的均值和标准差初始化均匀分布

tf.truncated_normal_initializer(mean,stddev,seed,dtype) #功能:将变量初始化为满足正太分布的随机值,但如果随机出来的值偏离平均值超过2个标准差,那么这个数将会被重新随机

mean:用于指定均值;stddev用于指定标准差;seed:用于指定随机数种子;dtype:用于指定随机数的数据类型。
通常只需要设定一个标准差stddev这一个参数就可以。

tf.random_uniform_initializer(a,b,seed,dtype) #从a到b均匀初始化,将变量初始化为满足平均分布的随机值,主要参数(最大值,最小值)

tf.uniform_unit_scaling_initializer(factor,seed,dtypr) #将变量初始化为满足平均分布但不影响输出数量级的随机值

max_val=math.sqrt(3/input_size)*factor;
input_size指输入数据的维数,假设输入为x,计算为x*w,则input_size=w.shape[0].
其分布区间为[-max_val,max_val]

tf.zeros_initializer() #将变量设置为全0;也可以简写为tf.Zeros()

tf.ones_initializer() #将变量设置为全1;可简写为tf.Ones()

以上这篇对Tensorflow中的变量初始化函数详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python爬取qq music中的音乐url及批量下载
Mar 23 Python
python安装numpy&安装matplotlib& scipy的教程
Nov 02 Python
彻底搞懂Python字符编码
Jan 23 Python
Python抓取聚划算商品分析页面获取商品信息并以XML格式保存到本地
Feb 23 Python
利用python如何处理nc数据详解
May 23 Python
Python实现的绘制三维双螺旋线图形功能示例
Jun 23 Python
Python3.6 + TensorFlow 安装配置图文教程(Windows 64 bit)
Feb 24 Python
在python中修改.properties文件的操作
Apr 08 Python
简单了解python列表和元组的区别
May 14 Python
在pycharm中使用pipenv创建虚拟环境和安装django的详细教程
Nov 30 Python
python os.listdir()乱码解决方案
Jan 31 Python
如何用 Python 制作 GitHub 消息助手
Feb 20 Python
JavaScript中的模拟事件和自定义事件实例分析
Jul 27 #Python
浅谈tensorflow中几个随机函数的用法
Jul 27 #Python
tensorflow 中对数组元素的操作方法
Jul 27 #Python
Python读取excel中的图片完美解决方法
Jul 27 #Python
tensorflow实现图像的裁剪和填充方法
Jul 27 #Python
tensorflow 用矩阵运算替换for循环 用tf.tile而不写for的方法
Jul 27 #Python
对Tensorflow中的矩阵运算函数详解
Jul 27 #Python
You might like
php中文字母数字验证码实现代码
2008/04/25 PHP
php新建文件自动编号的思路与实现
2011/06/27 PHP
php文本转图片自动换行的方法
2013/03/13 PHP
详解WordPress中过滤链接与过滤SQL语句的方法
2015/12/18 PHP
Yii2中如何使用modal弹窗(基本使用)
2016/05/30 PHP
php组合排序简单实现方法
2016/10/15 PHP
浅谈PHP中关于foreach使用引用变量的坑
2016/11/14 PHP
Laravel框架定时任务2种实现方式示例
2018/12/08 PHP
PHP中数组转换为SimpleXML教程
2019/01/27 PHP
Flash+XML滚动新闻代码 无图片 附源码下载
2007/11/22 Javascript
用JS剩余字数计算的代码
2008/07/03 Javascript
jQuery源码分析-03构造jQuery对象-源码结构和核心函数
2011/11/14 Javascript
angularJS提交表单(form)
2015/02/09 Javascript
浅谈Node.js中的定时器
2015/06/18 Javascript
jqueryMobile使用示例分享
2016/01/12 Javascript
基于javascript实现页面加载loading效果
2020/09/15 Javascript
当jquery ajax遇上401请求的解决方法
2016/05/19 Javascript
jquery弹出框插件jquery.ui.dialog用法分析
2016/08/20 Javascript
JS与jQuery实现隔行变色的方法
2016/09/09 Javascript
Vue数据驱动模拟实现1
2017/01/11 Javascript
Angular2下使用pdf插件的方法详解
2017/04/29 Javascript
解决Vue2.0自带浏览器里无法打开的原因(兼容处理)
2017/07/28 Javascript
react同构实践之实现自己的同构模板
2019/03/13 Javascript
vue 解决setTimeOut和setInterval函数无效报错的问题
2020/07/30 Javascript
JavaScript this关键字的深入详解
2021/01/14 Javascript
Python提取网页中超链接的方法
2016/09/18 Python
Python实现调度算法代码详解
2017/12/01 Python
python定向爬虫校园论坛帖子信息
2018/07/23 Python
Python3 main函数使用sys.argv传入多个参数的实现
2019/12/25 Python
keras .h5转移动端的.tflite文件实现方式
2020/05/25 Python
Pandas缺失值2种处理方式代码实例
2020/06/13 Python
python 实现客户端与服务端的通信
2020/12/23 Python
应届生服装设计自我评价
2013/09/20 职场文书
英语专业学子个人的自我评价
2013/10/02 职场文书
调研汇报材料范文
2014/08/17 职场文书
毕业季聚会祝酒词!
2019/07/04 职场文书