对Tensorflow中的变量初始化函数详解


Posted in Python onJuly 27, 2018

Tensorflow 提供了7种不同的初始化函数:

tf.constant_initializer(value) #将变量初始化为给定的常量,初始化一切所提供的值。

假设在卷积层中,设置偏执项b为0,则写法为:
1. bias_initializer=tf.constant_initializer(0)
2. bias_initializer=tf.zeros_initializer(0)

tf.random_normal_initializer(mean,stddev) #功能是将变量初始化为满足正太分布的随机值,主要参数(正太分布的均值和标准差),用所给的均值和标准差初始化均匀分布

tf.truncated_normal_initializer(mean,stddev,seed,dtype) #功能:将变量初始化为满足正太分布的随机值,但如果随机出来的值偏离平均值超过2个标准差,那么这个数将会被重新随机

mean:用于指定均值;stddev用于指定标准差;seed:用于指定随机数种子;dtype:用于指定随机数的数据类型。
通常只需要设定一个标准差stddev这一个参数就可以。

tf.random_uniform_initializer(a,b,seed,dtype) #从a到b均匀初始化,将变量初始化为满足平均分布的随机值,主要参数(最大值,最小值)

tf.uniform_unit_scaling_initializer(factor,seed,dtypr) #将变量初始化为满足平均分布但不影响输出数量级的随机值

max_val=math.sqrt(3/input_size)*factor;
input_size指输入数据的维数,假设输入为x,计算为x*w,则input_size=w.shape[0].
其分布区间为[-max_val,max_val]

tf.zeros_initializer() #将变量设置为全0;也可以简写为tf.Zeros()

tf.ones_initializer() #将变量设置为全1;可简写为tf.Ones()

以上这篇对Tensorflow中的变量初始化函数详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Linux下为不同版本python安装第三方库
Aug 31 Python
Python 搭建Web站点之Web服务器与Web框架
Nov 06 Python
Python3一行代码实现图片文字识别的示例
Jan 15 Python
对Python中DataFrame按照行遍历的方法
Apr 08 Python
Linux系统(CentOS)下python2.7.10安装
Sep 26 Python
Python面向对象之类和对象属性的增删改查操作示例
Dec 14 Python
python3 cvs将数据读取为字典的方法
Dec 22 Python
一个可以套路别人的python小程序实例代码
Apr 09 Python
如何使用python实现模拟鼠标点击
Jan 06 Python
Python使用eval函数执行动态标表达式过程详解
Oct 17 Python
DRF使用simple JWT身份验证的实现
Jan 14 Python
Python爬虫分析微博热搜关键词的实现代码
Feb 22 Python
JavaScript中的模拟事件和自定义事件实例分析
Jul 27 #Python
浅谈tensorflow中几个随机函数的用法
Jul 27 #Python
tensorflow 中对数组元素的操作方法
Jul 27 #Python
Python读取excel中的图片完美解决方法
Jul 27 #Python
tensorflow实现图像的裁剪和填充方法
Jul 27 #Python
tensorflow 用矩阵运算替换for循环 用tf.tile而不写for的方法
Jul 27 #Python
对Tensorflow中的矩阵运算函数详解
Jul 27 #Python
You might like
SONY ICF-SW55的电路分析
2021/03/02 无线电
php 生成随机验证码图片代码
2010/02/08 PHP
Laravel 6 将新增为指定队列任务设置中间件的功能
2019/08/06 PHP
腾讯的ip接口 方便获取当前用户的ip地理位置
2010/11/25 Javascript
xml转json的js代码
2012/08/28 Javascript
js中判断Object、Array、Function等引用类型对象是否相等
2012/08/29 Javascript
浅析jquery的js图表组件highcharts
2014/03/06 Javascript
angularJS结合canvas画图例子
2015/02/09 Javascript
Jquery中的$.each获取各种返回类型数据的使用方法
2015/05/03 Javascript
Javascript中的getUTCDay()方法使用详解
2015/06/10 Javascript
第二次聊一聊JS require.js模块化工具的基础知识
2016/04/17 Javascript
原生js实现日期计算器功能
2017/02/17 Javascript
详解JS中的this、apply、call、bind(经典面试题)
2017/09/19 Javascript
vue进行图片的预加载watch用法实例讲解
2018/02/07 Javascript
Bootstrap 模态框自定义点击和关闭事件详解
2018/08/10 Javascript
antd design table更改某行数据的样式操作
2020/10/31 Javascript
python操作MySQL数据库的方法分享
2012/05/29 Python
Python中的列表知识点汇总
2015/04/14 Python
Python实现选择排序
2017/06/04 Python
python 监听salt job状态,并任务数据推送到redis中的方法
2019/01/14 Python
Python自动化之数据驱动让你的脚本简洁10倍【推荐】
2019/06/04 Python
pytorch多进程加速及代码优化方法
2019/08/19 Python
python的mysql数据库建立表与插入数据操作示例
2019/09/30 Python
pytorch绘制并显示loss曲线和acc曲线,LeNet5识别图像准确率
2020/01/02 Python
python GUI库图形界面开发之pyinstaller打包python程序为exe安装文件
2020/02/26 Python
python报错TypeError: ‘NoneType‘ object is not subscriptable的解决方法
2020/11/05 Python
移动端HTML5开发神器之vconsole详解
2020/12/15 HTML / CSS
斯巴达比赛商店:Spartan Race
2019/01/08 全球购物
软件测试企业面试试卷
2016/07/13 面试题
行政文秘岗位职责范本
2014/02/10 职场文书
社会治安综合治理管理责任书
2014/04/16 职场文书
英文求职信范文
2014/05/23 职场文书
2014年作风建设剖析材料
2014/10/23 职场文书
余世维讲座观后感
2015/06/11 职场文书
2016春季幼儿园大班开学寄语
2015/12/03 职场文书
position:sticky 粘性定位的几种巧妙应用详解
2021/04/24 HTML / CSS