对Tensorflow中的变量初始化函数详解


Posted in Python onJuly 27, 2018

Tensorflow 提供了7种不同的初始化函数:

tf.constant_initializer(value) #将变量初始化为给定的常量,初始化一切所提供的值。

假设在卷积层中,设置偏执项b为0,则写法为:
1. bias_initializer=tf.constant_initializer(0)
2. bias_initializer=tf.zeros_initializer(0)

tf.random_normal_initializer(mean,stddev) #功能是将变量初始化为满足正太分布的随机值,主要参数(正太分布的均值和标准差),用所给的均值和标准差初始化均匀分布

tf.truncated_normal_initializer(mean,stddev,seed,dtype) #功能:将变量初始化为满足正太分布的随机值,但如果随机出来的值偏离平均值超过2个标准差,那么这个数将会被重新随机

mean:用于指定均值;stddev用于指定标准差;seed:用于指定随机数种子;dtype:用于指定随机数的数据类型。
通常只需要设定一个标准差stddev这一个参数就可以。

tf.random_uniform_initializer(a,b,seed,dtype) #从a到b均匀初始化,将变量初始化为满足平均分布的随机值,主要参数(最大值,最小值)

tf.uniform_unit_scaling_initializer(factor,seed,dtypr) #将变量初始化为满足平均分布但不影响输出数量级的随机值

max_val=math.sqrt(3/input_size)*factor;
input_size指输入数据的维数,假设输入为x,计算为x*w,则input_size=w.shape[0].
其分布区间为[-max_val,max_val]

tf.zeros_initializer() #将变量设置为全0;也可以简写为tf.Zeros()

tf.ones_initializer() #将变量设置为全1;可简写为tf.Ones()

以上这篇对Tensorflow中的变量初始化函数详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python深入学习之上下文管理器
Aug 31 Python
Python的消息队列包SnakeMQ使用初探
Jun 29 Python
Python中表示字符串的三种方法
Sep 06 Python
详解如何将python3.6软件的py文件打包成exe程序
Oct 09 Python
利用Python+阿里云实现DDNS动态域名解析的方法
Apr 01 Python
使用python接入微信聊天机器人
Mar 31 Python
Python实现报警信息实时发送至邮箱功能(实例代码)
Nov 11 Python
Pycharm最新激活码2019(推荐)
Dec 31 Python
使用TensorFlow直接获取处理MNIST数据方式
Feb 10 Python
Python定时器线程池原理详解
Feb 26 Python
Python爬虫实现vip电影下载的示例代码
Apr 20 Python
python能在浏览器能运行吗
Jun 17 Python
JavaScript中的模拟事件和自定义事件实例分析
Jul 27 #Python
浅谈tensorflow中几个随机函数的用法
Jul 27 #Python
tensorflow 中对数组元素的操作方法
Jul 27 #Python
Python读取excel中的图片完美解决方法
Jul 27 #Python
tensorflow实现图像的裁剪和填充方法
Jul 27 #Python
tensorflow 用矩阵运算替换for循环 用tf.tile而不写for的方法
Jul 27 #Python
对Tensorflow中的矩阵运算函数详解
Jul 27 #Python
You might like
php编写的简单页面跳转功能实现代码
2013/11/27 PHP
php无限遍历目录示例
2014/02/21 PHP
PHP的引用详解
2015/02/22 PHP
php求今天、昨天、明天时间戳的简单实现方法
2016/07/28 PHP
Yii框架函数简单用法分析
2019/09/09 PHP
网页常用特效代码整理
2006/06/23 Javascript
30个最好的jQuery 灯箱插件分享
2011/04/25 Javascript
20款非常优秀的 jQuery 工具提示插件 推荐
2012/07/15 Javascript
JavaScript高级程序设计(第3版)学习笔记10 再访js对象
2012/10/11 Javascript
JQuery对id中含有特殊字符的转义处理示例
2013/09/06 Javascript
分享12个实用的jQuery代码片段
2016/03/09 Javascript
JS从一组数据中找到指定的单条数据的方法
2016/06/02 Javascript
jQuery插件Validation快速完成表单验证的方式
2016/07/28 Javascript
javascript中对象的定义、使用以及对象和原型链操作小结
2016/12/14 Javascript
webpack处理 css\less\sass 样式的方法
2017/08/21 Javascript
Vue infinite update loop的问题解决
2019/04/23 Javascript
vue draggable resizable 实现可拖拽缩放的组件功能
2019/07/15 Javascript
vue实现图片懒加载的方法分析
2020/02/05 Javascript
微信小程序仿通讯录功能
2020/04/09 Javascript
[46:27]DOTA2上海特级锦标赛主赛事日 - 1 胜者组第一轮#2LGD VS MVP.Phx第一局
2016/03/02 DOTA
Python探索之实现一个简单的HTTP服务器
2017/10/28 Python
Python调用adb命令实现对多台设备同时进行reboot的方法
2018/10/15 Python
python爬虫增加访问量的方法
2019/08/22 Python
Pytorch提取模型特征向量保存至csv的例子
2020/01/03 Python
Selenium 安装和简单使用的实现
2020/12/04 Python
利用CSS3实现折角效果实例源码
2016/09/28 HTML / CSS
如何用css3实现switch组件开关的方法
2018/02/09 HTML / CSS
Jogun Shop中文官网:韩国知名时尚男装网站
2016/10/12 全球购物
自我推荐书
2013/12/04 职场文书
超市促销活动总结
2014/07/01 职场文书
高校自主招生校长推荐信
2015/03/23 职场文书
党委工作总结2015
2015/04/27 职场文书
2015年生活老师工作总结
2015/05/27 职场文书
借钱欠条怎么写
2015/07/03 职场文书
2015年财务人员个人工作总结
2015/07/27 职场文书
Golang MatrixOne使用介绍和汇编语法
2022/04/19 Golang