浅谈tensorflow1.0 池化层(pooling)和全连接层(dense)


Posted in Python onApril 27, 2018

池化层定义在tensorflow/python/layers/pooling.py.

有最大值池化和均值池化。

1、tf.layers.max_pooling2d

max_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)
  1. inputs: 进行池化的数据。
  2. pool_size: 池化的核大小(pool_height, pool_width),如[3,3]. 如果长宽相等,也可以直接设置为一个数,如pool_size=3.
  3. strides: 池化的滑动步长。可以设置为[1,1]这样的两个整数. 也可以直接设置为一个数,如strides=2
  4. padding: 边缘填充,'same' 和'valid‘选其一。默认为valid
  5. data_format: 输入数据格式,默认为channels_last ,即 (batch, height, width, channels),也可以设置为channels_first 对应 (batch, channels, height, width).
  6. name: 层的名字。

例:

pool1=tf.layers.max_pooling2d(inputs=x, pool_size=[2, 2], strides=2)

一般是放在卷积层之后,如:

conv=tf.layers.conv2d(
   inputs=x,
   filters=32,
   kernel_size=[5, 5],
   padding="same",
   activation=tf.nn.relu)
pool=tf.layers.max_pooling2d(inputs=conv, pool_size=[2, 2], strides=2)

2.tf.layers.average_pooling2d

average_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)

参数和前面的最大值池化一样。

全连接dense层定义在 tensorflow/python/layers/core.py.

3、tf.layers.dense

dense(
  inputs,
  units,
  activation=None,
  use_bias=True,
  kernel_initializer=None,
  bias_initializer=tf.zeros_initializer(),
  kernel_regularizer=None,
  bias_regularizer=None,
  activity_regularizer=None,
  trainable=True,
  name=None,
  reuse=None
)
  1. inputs: 输入数据,2维tensor.
  2. units: 该层的神经单元结点数。
  3. activation: 激活函数.
  4. use_bias: Boolean型,是否使用偏置项.
  5. kernel_initializer: 卷积核的初始化器.
  6. bias_initializer: 偏置项的初始化器,默认初始化为0.
  7. kernel_regularizer: 卷积核化的正则化,可选.
  8. bias_regularizer: 偏置项的正则化,可选.
  9. activity_regularizer: 输出的正则化函数.
  10. trainable: Boolean型,表明该层的参数是否参与训练。如果为真则变量加入到图集合中 GraphKeys.TRAINABLE_VARIABLES (see tf.Variable).
  11. name: 层的名字.
  12. reuse: Boolean型, 是否重复使用参数.

全连接层执行操作 outputs = activation(inputs.kernel + bias)

如果执行结果不想进行激活操作,则设置activation=None。

例:

#全连接层
dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu)
dense2= tf.layers.dense(inputs=dense1, units=512, activation=tf.nn.relu)
logits= tf.layers.dense(inputs=dense2, units=10, activation=None)

也可以对全连接层的参数进行正则化约束:

dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu,kernel_regularizer=tf.contrib.layers.l2_regularizer(0.003))

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
对于Python编程中一些重用与缩减的建议
Apr 14 Python
浅谈Python中copy()方法的使用
May 21 Python
windows 10下安装搭建django1.10.3和Apache2.4的方法
Apr 05 Python
Vue的el-scrollbar实现自定义滚动
May 29 Python
在mac下查找python包存放路径site-packages的实现方法
Nov 06 Python
浅谈Python中的可迭代对象、迭代器、For循环工作机制、生成器
Mar 11 Python
python实践项目之监控当前联网状态详情
May 23 Python
使用python获取(宜宾市地震信息)地震信息
Jun 20 Python
Python 3.8 新功能大揭秘【新手必学】
Feb 05 Python
基于Tensorflow批量数据的输入实现方式
Feb 05 Python
TensorFlow 输出checkpoint 中的变量名与变量值方式
Feb 11 Python
Python远程linux执行命令实现
Nov 11 Python
python线程中同步锁详解
Apr 27 #Python
python数字图像处理之高级形态学处理
Apr 27 #Python
python线程池threadpool实现篇
Apr 27 #Python
python数字图像处理之骨架提取与分水岭算法
Apr 27 #Python
python多线程之事件Event的使用详解
Apr 27 #Python
python线程池threadpool使用篇
Apr 27 #Python
Python实现删除时保留特定文件夹和文件的示例
Apr 27 #Python
You might like
php中ftp_chdir与ftp_cdup函数用法
2014/11/18 PHP
php打乱数组二维数组多维数组的简单实例
2016/06/17 PHP
PHP配置ZendOpcache插件加速
2019/02/14 PHP
php数组函数array_push()、array_pop()及array_shift()简单用法示例
2020/01/26 PHP
多浏览器兼容性比较好的复制到剪贴板的js代码
2011/10/09 Javascript
如何将JS的变量值传递给ASP变量
2012/12/10 Javascript
jQuery不间断滚动效果(模拟百度新闻支持文字/图片/垂直滚动)
2013/02/05 Javascript
js转义字符介绍
2013/11/05 Javascript
离开当前页面前使用js判断条件提示是否要离开页面
2014/05/02 Javascript
JS根据年月获得当月天数的实现代码
2014/07/03 Javascript
解决Jquery向页面append新元素之后事件的绑定问题
2015/03/16 Javascript
js精美的幻灯片画集特效代码分享
2015/08/29 Javascript
Javascript日期格式化format函数的使用方法
2016/08/30 Javascript
js遍历获取表格内数据的方法(必看)
2017/04/06 Javascript
重新认识vue之事件阻止冒泡的实现
2018/08/02 Javascript
详解nuxt路由鉴权(express模板)
2018/11/21 Javascript
JS实现数组删除指定元素功能示例
2019/06/05 Javascript
微信小程序实现吸顶特效
2020/01/08 Javascript
[52:57]2014 DOTA2国际邀请赛中国区预选赛 LGD-CDEC VS HGT
2014/05/21 DOTA
python标准日志模块logging的使用方法
2013/11/01 Python
python中pandas.DataFrame排除特定行方法示例
2017/03/12 Python
Python简单操作sqlite3的方法示例
2017/03/22 Python
浅谈tensorflow中几个随机函数的用法
2018/07/27 Python
JupyterNotebook 输出窗口的显示效果调整实现
2020/09/22 Python
实例教程 一款纯css3实现的数字统计游戏
2014/11/10 HTML / CSS
一款纯css3实现的颜色渐变按钮的代码教程
2014/11/12 HTML / CSS
HTML5画渐变背景图片并自动下载实现步骤
2013/11/18 HTML / CSS
Kusmi茶美国官网:优质散叶茶和茶包
2019/10/13 全球购物
内部类的定义、种类以及优点
2013/10/16 面试题
应届生的求职推荐信范文
2013/11/30 职场文书
安全生产汇报材料
2014/02/17 职场文书
医学求职自荐信
2014/06/21 职场文书
班组拓展活动方案
2014/08/14 职场文书
中职招生先进个人材料
2014/08/31 职场文书
民主生活会对照检查材料(统计局)
2014/09/21 职场文书
2014年学生会部门工作总结
2014/11/07 职场文书