浅谈tensorflow1.0 池化层(pooling)和全连接层(dense)


Posted in Python onApril 27, 2018

池化层定义在tensorflow/python/layers/pooling.py.

有最大值池化和均值池化。

1、tf.layers.max_pooling2d

max_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)
  1. inputs: 进行池化的数据。
  2. pool_size: 池化的核大小(pool_height, pool_width),如[3,3]. 如果长宽相等,也可以直接设置为一个数,如pool_size=3.
  3. strides: 池化的滑动步长。可以设置为[1,1]这样的两个整数. 也可以直接设置为一个数,如strides=2
  4. padding: 边缘填充,'same' 和'valid‘选其一。默认为valid
  5. data_format: 输入数据格式,默认为channels_last ,即 (batch, height, width, channels),也可以设置为channels_first 对应 (batch, channels, height, width).
  6. name: 层的名字。

例:

pool1=tf.layers.max_pooling2d(inputs=x, pool_size=[2, 2], strides=2)

一般是放在卷积层之后,如:

conv=tf.layers.conv2d(
   inputs=x,
   filters=32,
   kernel_size=[5, 5],
   padding="same",
   activation=tf.nn.relu)
pool=tf.layers.max_pooling2d(inputs=conv, pool_size=[2, 2], strides=2)

2.tf.layers.average_pooling2d

average_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)

参数和前面的最大值池化一样。

全连接dense层定义在 tensorflow/python/layers/core.py.

3、tf.layers.dense

dense(
  inputs,
  units,
  activation=None,
  use_bias=True,
  kernel_initializer=None,
  bias_initializer=tf.zeros_initializer(),
  kernel_regularizer=None,
  bias_regularizer=None,
  activity_regularizer=None,
  trainable=True,
  name=None,
  reuse=None
)
  1. inputs: 输入数据,2维tensor.
  2. units: 该层的神经单元结点数。
  3. activation: 激活函数.
  4. use_bias: Boolean型,是否使用偏置项.
  5. kernel_initializer: 卷积核的初始化器.
  6. bias_initializer: 偏置项的初始化器,默认初始化为0.
  7. kernel_regularizer: 卷积核化的正则化,可选.
  8. bias_regularizer: 偏置项的正则化,可选.
  9. activity_regularizer: 输出的正则化函数.
  10. trainable: Boolean型,表明该层的参数是否参与训练。如果为真则变量加入到图集合中 GraphKeys.TRAINABLE_VARIABLES (see tf.Variable).
  11. name: 层的名字.
  12. reuse: Boolean型, 是否重复使用参数.

全连接层执行操作 outputs = activation(inputs.kernel + bias)

如果执行结果不想进行激活操作,则设置activation=None。

例:

#全连接层
dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu)
dense2= tf.layers.dense(inputs=dense1, units=512, activation=tf.nn.relu)
logits= tf.layers.dense(inputs=dense2, units=10, activation=None)

也可以对全连接层的参数进行正则化约束:

dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu,kernel_regularizer=tf.contrib.layers.l2_regularizer(0.003))

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python如何实现excel数据添加到mongodb
Jul 30 Python
Python中的多行注释文档编写风格汇总
Jun 16 Python
Python3安装Pillow与PIL的方法
Apr 03 Python
Python中psutil的介绍与用法
May 02 Python
树莓派使用USB摄像头和motion实现监控
Jun 22 Python
python查找重复图片并删除(图片去重)
Jul 16 Python
django的auth认证,authenticate和装饰器功能详解
Jul 25 Python
python 使用pygame工具包实现贪吃蛇游戏(多彩版)
Oct 30 Python
python解析多层json操作示例
Dec 30 Python
django执行数据库查询之后实现返回的结果集转json
Mar 31 Python
Python在centos7.6上安装python3.9的详细教程(默认python版本为2.7.5)
Oct 15 Python
python3.8.3安装教程及环境配置的详细教程(64-bit)
Nov 28 Python
python线程中同步锁详解
Apr 27 #Python
python数字图像处理之高级形态学处理
Apr 27 #Python
python线程池threadpool实现篇
Apr 27 #Python
python数字图像处理之骨架提取与分水岭算法
Apr 27 #Python
python多线程之事件Event的使用详解
Apr 27 #Python
python线程池threadpool使用篇
Apr 27 #Python
Python实现删除时保留特定文件夹和文件的示例
Apr 27 #Python
You might like
理解PHP5中static和const关键字的区别
2007/03/19 PHP
基于PHP对XML的操作详解
2013/06/07 PHP
smarty模板中使用get、post、request、cookies、session变量的方法
2014/04/24 PHP
thinkphp模板用法和内容输出实例
2014/11/28 PHP
关于PHP中Session文件过多的问题及session文件保存位置
2016/03/17 PHP
PHP在线打包下载功能示例
2016/10/15 PHP
php中用unset销毁变量并释放内存
2020/05/10 PHP
jQuery温习篇 强大的JQuery选择器
2010/04/24 Javascript
jQuery选择没有colspan属性的td的代码
2010/07/06 Javascript
jquery 简短几句代码实现给元素动态添加及获取提示信息
2011/09/01 Javascript
ie8 不支持new Date(2012-11-10)问题的解决方法
2013/07/31 Javascript
javascript与Python快速排序实例对比
2015/08/10 Javascript
jQuery实现鼠标滑过链接控制图片的滑动展开与隐藏效果
2015/10/28 Javascript
jQuery获取当前点击的对象元素(实现代码)
2016/05/19 Javascript
基于JS快速实现导航下拉菜单动画效果附源码下载
2016/10/27 Javascript
jQuery简单自定义图片轮播插件及用法示例
2016/11/21 Javascript
纯原生js实现贪吃蛇游戏
2020/04/16 Javascript
微信小程序之获取当前位置经纬度以及地图显示详解
2017/05/09 Javascript
vue2 全局变量的设置方法
2018/03/09 Javascript
JS+HTML实现的圆形可点击区域示例【3种方法】
2018/08/01 Javascript
vue根据条件不同显示不同按钮的操作
2020/08/04 Javascript
vue3.0实现插件封装
2020/12/14 Vue.js
[01:54]TI珍贵瞬间系列(五):压力
2020/08/29 DOTA
python列表去重的二种方法
2014/02/14 Python
Caffe均值文件mean.binaryproto转mean.npy的方法
2018/07/09 Python
Python3按一定数据位数格式处理bin文件的方法
2019/01/24 Python
pytorch在fintune时将sequential中的层输出方法,以vgg为例
2019/08/20 Python
python的scipy实现插值的示例代码
2019/11/12 Python
Python实现JS解密并爬取某音漫客网站
2020/10/23 Python
加拿大城市本地限时优惠:Buytopia.ca
2018/09/19 全球购物
介绍一些UNIX常用简单命令
2014/11/11 面试题
洗发露广告词
2014/03/14 职场文书
2016年秋季新学期致辞
2015/07/30 职场文书
创业计划书之青年旅馆
2019/09/23 职场文书
解决使用了nginx获取IP地址都是127.0.0.1 的问题
2021/09/25 Servers
python 离散点图画法的实现
2022/04/01 Python