Pytorch中膨胀卷积的用法详解


Posted in Python onJanuary 07, 2020

卷积和膨胀卷积

在深度学习中,我们会碰到卷积的概念,我们知道卷积简单来理解就是累乘和累加,普通的卷积我们在此不做赘述,大家可以翻看相关书籍很好的理解。

最近在做项目过程中,碰到Pytorch中使用膨胀卷积的情况,想要的输入输出是图像经过四层膨胀卷积后图像的宽高尺寸不发生变化。

开始我的思路是padding='SAME'结合strides=1来实现输入输出尺寸不变,试列好多次还是有问题,报了张量错误的提示,想了好久也没找到解决方法,上网搜了下,有些人的博客说经过膨胀卷积之后图像的尺寸不发生变化,有些人又说发生变化,甚至还给出了公式,按着他们的方法修改后还是有问题,报的错误还是没有变。一时不知道怎样解决,网上关于膨胀卷积输出尺寸的大小相关的知识也很少。

终于......,经过自己的研究,发现了问题所在。好啦!我们先从膨胀卷积的概念开始。

1、膨胀卷积的概念

Dilated Convolutions,翻译为扩张卷积或空洞卷积。扩张卷积与普通的卷积相比,除了卷积核的大小以外,还有一个扩张率(dilation rate)参数,主要用来表示扩张的大小。扩张卷积与普通卷积的相同点在于,卷积核的大小是一样的,在神经网络中即参数数量不变,区别在于扩张卷积具有更大的感受野。感受野是卷积核在图像上看到的大小,例如5x5的卷积核的感受野大小为25。

2、示意图

Pytorch中膨胀卷积的用法详解

a.普通卷积,dilation=1,感受野为3x3=9

b.膨胀卷积,dilation=2,感受野为7x7=49

c.膨胀卷积,dilation=4,感受野为16x16 = 256

3、感受野的概念

在卷积神经网络中,感受野的定义是 卷积神经网络每一层输出的特征图(feature map)上的像素点在原始图像上映射的区域大小

Pytorch中膨胀卷积的用法详解

重点来啦

卷积核经过膨胀后实际参与运算的卷积大小计算公式:

膨胀后的卷积核尺寸 = 膨胀系数 × (原始卷积核尺寸-1)+ 1

例如对于输入是19 x 19(暂且不考虑图像通道数)大小的图像做膨胀卷积,要使输出的图像大小保持不变,即就是仍然为19 x 19,我们要怎样实现呢?

我们的代码是基于pytorch实现的,它的卷积参数中没有padding='SAME‘的选项,padding的可取值为0,1,2,3等等的值。它的计算方式和tensorflow中的padding='VALID'的计算方式一样。

Output=(W-F+2P)/S+1

我们取strides=1,这里的原始卷积核为3 x 3大小,dilation=6,我们可以计算出膨胀后的卷积核大小为6(3-1)+1=13

带入公式可以求得:

(19-13+2*p)/1+1=19,要使这个式子成立,可以反推出padding=6。

这样一来,就可以使得输入输出的尺寸保持不变。达到了我们想要的效果。

4、膨胀卷积的优点

膨胀卷积在保持参数个数不变的情况下增大了卷积核的感受野

5、应用领域

图像修复,图像分割,语音合成。

以上这篇Pytorch中膨胀卷积的用法详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
50行代码实现贪吃蛇(具体思路及代码)
Apr 27 Python
Python标准库之Sys模块使用详解
May 23 Python
python利用datetime模块计算时间差
Aug 04 Python
Python使用lxml模块和Requests模块抓取HTML页面的教程
May 16 Python
python图像常规操作
Nov 11 Python
基于python中theano库的线性回归
Aug 31 Python
py-charm延长试用期限实例
Dec 22 Python
pytorch实现onehot编码转为普通label标签
Jan 02 Python
Python第三方库的几种安装方式(小结)
Apr 03 Python
Python爬虫逆向分析某云音乐加密参数的实例分析
Dec 04 Python
Python3.9.1中使用split()的处理方法(推荐)
Feb 07 Python
Python基础之tkinter图形化界面学习
Apr 29 Python
Python urlopen()和urlretrieve()用法解析
Jan 07 #Python
简单了解Django ORM常用字段类型及参数配置
Jan 07 #Python
解决torch.autograd.backward中的参数问题
Jan 07 #Python
Pytorch 中retain_graph的用法详解
Jan 07 #Python
PyTorch中的Variable变量详解
Jan 07 #Python
python enumerate内置函数用法总结
Jan 07 #Python
pytorch加载自定义网络权重的实现
Jan 07 #Python
You might like
PHP 图片上传实现代码 带详细注释
2010/04/29 PHP
PHP调用Linux的命令行执行文件压缩命令
2013/01/27 PHP
php 备份数据库代码(生成word,excel,json,xml,sql)
2013/06/23 PHP
php可应用于面包屑导航的递归寻找家谱树实现方法
2015/02/02 PHP
Laravel数据库读写分离配置的方法
2019/10/13 PHP
用javascript父窗口控制只弹出一个子窗口
2007/04/10 Javascript
FireFox JavaScript全局Event对象
2009/06/14 Javascript
jQuery插件Tooltipster实现漂亮的工具提示
2015/04/12 Javascript
js实现Form栏显示全格式时间时钟效果代码
2015/08/19 Javascript
angularjs+bootstrap菜单的使用示例代码
2017/03/07 Javascript
ES6中Generator与异步操作实例分析
2017/03/31 Javascript
jquery DataTable实现前后台动态分页
2017/06/17 jQuery
jQuery 1.9版本以上的浏览器判断方法代码分享
2017/08/28 jQuery
JS返回顶部实例代码
2020/08/09 Javascript
JavaScript动态检测密码强度原理及实现方法详解
2019/06/11 Javascript
vue.js 打包时出现空白页和路径错误问题及解决方法
2019/06/26 Javascript
微信小程序组件传值图示过程详解
2019/07/31 Javascript
js实现验证码干扰(静态)
2021/02/22 Javascript
[14:20]刀塔大凶女神互压各路奇葩屌丝
2014/05/16 DOTA
Django实现登录随机验证码的示例代码
2018/06/20 Python
python消费kafka数据批量插入到es的方法
2018/12/27 Python
基于python的ini配置文件操作工具类
2019/04/24 Python
十个Python练手的实战项目,学会这些Python就基本没问题了(推荐)
2019/04/26 Python
python图形用户接口实例详解
2019/12/16 Python
基于torch.where和布尔索引的速度比较
2020/01/02 Python
Django模板获取field的verbose_name实例
2020/05/19 Python
Python自省及反射原理实例详解
2020/07/06 Python
一款纯css3实现的非常实用的鼠标悬停特效演示
2014/11/05 HTML / CSS
物业管理计划书
2014/01/10 职场文书
消防安全汇报材料
2014/02/08 职场文书
先进事迹报告会主持词
2014/04/02 职场文书
秋天的雨教学反思
2014/04/27 职场文书
投资意向协议书
2015/01/29 职场文书
护士个人年度总结范文
2015/02/13 职场文书
数据结构课程设计心得体会
2016/01/15 职场文书
详解Flutter自定义应用程序内键盘的实现方法
2022/06/14 Java/Android