对Tensorflow中的变量初始化函数详解


Posted in Python onJuly 27, 2018

Tensorflow 提供了7种不同的初始化函数:

tf.constant_initializer(value) #将变量初始化为给定的常量,初始化一切所提供的值。

假设在卷积层中,设置偏执项b为0,则写法为:
1. bias_initializer=tf.constant_initializer(0)
2. bias_initializer=tf.zeros_initializer(0)

tf.random_normal_initializer(mean,stddev) #功能是将变量初始化为满足正太分布的随机值,主要参数(正太分布的均值和标准差),用所给的均值和标准差初始化均匀分布

tf.truncated_normal_initializer(mean,stddev,seed,dtype) #功能:将变量初始化为满足正太分布的随机值,但如果随机出来的值偏离平均值超过2个标准差,那么这个数将会被重新随机

mean:用于指定均值;stddev用于指定标准差;seed:用于指定随机数种子;dtype:用于指定随机数的数据类型。
通常只需要设定一个标准差stddev这一个参数就可以。

tf.random_uniform_initializer(a,b,seed,dtype) #从a到b均匀初始化,将变量初始化为满足平均分布的随机值,主要参数(最大值,最小值)

tf.uniform_unit_scaling_initializer(factor,seed,dtypr) #将变量初始化为满足平均分布但不影响输出数量级的随机值

max_val=math.sqrt(3/input_size)*factor;
input_size指输入数据的维数,假设输入为x,计算为x*w,则input_size=w.shape[0].
其分布区间为[-max_val,max_val]

tf.zeros_initializer() #将变量设置为全0;也可以简写为tf.Zeros()

tf.ones_initializer() #将变量设置为全1;可简写为tf.Ones()

以上这篇对Tensorflow中的变量初始化函数详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
videocapture库制作python视频高速传输程序
Dec 23 Python
在Python中使用PIL模块处理图像的教程
Apr 29 Python
Pythont特殊语法filter,map,reduce,apply使用方法
Feb 27 Python
Django 跨域请求处理的示例代码
May 02 Python
对pandas中两种数据类型Series和DataFrame的区别详解
Nov 12 Python
解决python3中的requests解析中文页面出现乱码问题
Apr 19 Python
PyCharm安装Markdown插件的两种方法
Jun 24 Python
Python3 操作 MySQL 插入一条数据并返回主键 id的实例
Mar 02 Python
Python发起请求提示UnicodeEncodeError错误代码解决方法
Apr 21 Python
pytorch 如何使用batch训练lstm网络
May 28 Python
浅析python中特殊文件和特殊函数
Feb 24 Python
python绘制简单直方图(质量分布图)的方法
Apr 21 Python
JavaScript中的模拟事件和自定义事件实例分析
Jul 27 #Python
浅谈tensorflow中几个随机函数的用法
Jul 27 #Python
tensorflow 中对数组元素的操作方法
Jul 27 #Python
Python读取excel中的图片完美解决方法
Jul 27 #Python
tensorflow实现图像的裁剪和填充方法
Jul 27 #Python
tensorflow 用矩阵运算替换for循环 用tf.tile而不写for的方法
Jul 27 #Python
对Tensorflow中的矩阵运算函数详解
Jul 27 #Python
You might like
香妃
2021/03/03 冲泡冲煮
彻底杜绝PHP的session cookie错误
2009/08/09 PHP
PHP 编程安全性小结
2010/01/08 PHP
PHP截断标题且兼容utf8和gb2312编码
2013/09/22 PHP
php解压文件代码实现php在线解压
2014/02/13 PHP
thinkPHP5框架导出Excel文件简单操作示例
2018/08/03 PHP
jquery isType() 类型判断代码
2011/02/14 Javascript
使用Json比用string返回数据更友好,也更面向对象一些
2011/09/13 Javascript
javascript使用onclick事件改变选中行的颜色
2013/12/30 Javascript
Javascript中使用A标签获取当前目录的绝对路径方法
2015/03/02 Javascript
JQuery遍历元素的父辈和祖先的方法
2016/09/18 Javascript
Ajax+FormData+javascript实现无刷新表单信息提交
2016/10/24 Javascript
网站申请不到支付宝接口、微信接口,免接口收款实现方式几种解决办法
2016/12/14 Javascript
ajax 提交数据到后台jsp页面及页面跳转问题
2017/01/19 Javascript
微信小程序事件流原理解析
2019/11/27 Javascript
VsCode里的Vue模板的实现
2020/08/12 Javascript
[58:18]2018DOTA2亚洲邀请赛3月29日 小组赛B组 iG VS Mineski
2018/03/30 DOTA
[01:10]为家乡而战!完美世界城市挑战赛全国总决赛花絮
2019/07/25 DOTA
python 判断一个进程是否存在
2009/04/09 Python
python开发中module模块用法实例分析
2015/11/12 Python
在Python中通过threading模块定义和调用线程的方法
2016/07/12 Python
Python中struct模块对字节流/二进制流的操作教程
2017/01/21 Python
教你学会使用Python正则表达式
2017/09/07 Python
Python 记录日志的灵活性和可配置性介绍
2018/02/27 Python
python基础教程项目五之虚拟茶话会
2018/04/02 Python
Python实现的根据文件名查找数据文件功能示例
2018/05/02 Python
python opencv 读取本地视频文件 修改ffmpeg的方法
2019/01/26 Python
opencv python在视屏上截图功能的实现
2020/03/05 Python
css3高级选择器使用方法
2013/12/02 HTML / CSS
土耳其家居建材网站:Koçtaş
2016/11/22 全球购物
南京软件公司的.net程序员笔试题
2014/08/31 面试题
酒店副总经理岗位职责范本
2014/02/04 职场文书
禁烟标语大全
2014/06/11 职场文书
政府个人对照检查材料思想汇报
2014/10/08 职场文书
行政助理岗位职责范本
2015/04/11 职场文书
人民检察院起诉书
2015/05/20 职场文书