浅谈pytorch torch.backends.cudnn设置作用


Posted in Python onFebruary 20, 2020

cuDNN使用非确定性算法,并且可以使用torch.backends.cudnn.enabled = False来进行禁用

如果设置为torch.backends.cudnn.enabled =True,说明设置为使用使用非确定性算法

然后再设置:

torch.backends.cudnn.benchmark = true

那么cuDNN使用的非确定性算法就会自动寻找最适合当前配置的高效算法,来达到优化运行效率的问题

一般来讲,应该遵循以下准则:

如果网络的输入数据维度或类型上变化不大,设置  torch.backends.cudnn.benchmark = true  可以增加运行效率;

如果网络的输入数据在每次 iteration 都变化的话,会导致 cnDNN 每次都会去寻找一遍最优配置,这样反而会降低运行效率。

所以我们经常看见在代码开始出两者同时设置:

torch.backends.cudnn.enabled = True
torch.backends.cudnn.benchmark = True

以上这篇浅谈pytorch torch.backends.cudnn设置作用就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
用Python写的图片蜘蛛人代码
Aug 27 Python
python写日志封装类实例
Jun 28 Python
python 统计列表中不同元素的数量方法
Jun 29 Python
python 中字典嵌套列表的方法
Jul 03 Python
python for循环输入一个矩阵的实例
Nov 14 Python
对python中list的拷贝与numpy的array的拷贝详解
Jan 29 Python
python3对接mysql数据库实例详解
Apr 30 Python
python 修改本地网络配置的方法
Aug 14 Python
python获取全国城市pm2.5、臭氧等空气质量过程解析
Oct 12 Python
python圣诞树编写实例详解
Feb 13 Python
Python实现栈的方法详解【基于数组和单链表两种方法】
Feb 22 Python
pycharm中import呈现灰色原因的解决方法
Mar 04 Python
Python sqlite3查询操作过程解析
Feb 20 #Python
python利用datetime模块计算程序运行时间问题
Feb 20 #Python
pytorch数据预处理错误的解决
Feb 20 #Python
Python异常继承关系和自定义异常实现代码实例
Feb 20 #Python
Python安装与卸载流程详细步骤(图解)
Feb 20 #Python
PyCharm 专业版安装图文教程
Feb 20 #Python
Python3.6安装卸载、执行命令、执行py文件的方法详解
Feb 20 #Python
You might like
php下intval()和(int)转换使用与区别
2008/07/18 PHP
PHP下编码转换函数mb_convert_encoding与iconv的使用说明
2009/12/16 PHP
Thinkphp框架开发移动端接口(2)
2016/08/18 PHP
PHP7 新增常量
2021/03/09 PHP
关于 byval 与 byref 的区别分析总结
2007/10/08 Javascript
基于JQuery的cookie插件
2010/04/07 Javascript
基于jquery的$.ajax async使用
2011/10/19 Javascript
js二级地域选择的实现方法
2013/06/17 Javascript
JavaScript实现简单的时钟实例代码
2013/11/23 Javascript
jQuery中Dom的基本操作小结
2014/01/23 Javascript
简单的JS时钟实例讲解
2016/01/13 Javascript
jQuery siblings()用法实例详解
2016/04/26 Javascript
Vue.js每天必学之Class与样式绑定
2016/09/05 Javascript
Bootstrap源码解读表单(2)
2016/12/22 Javascript
fullCalendar中文API官方文档
2017/02/07 Javascript
深入浅析Node.js单线程模型
2017/07/10 Javascript
JavaScript仿微信(电话)联系人列表滑动字母索引实例讲解(推荐)
2017/08/16 Javascript
使用jQuery实现两个div中按钮互换位置的实例代码
2017/09/21 jQuery
详解angular应用容器化部署
2018/08/14 Javascript
python实现mysql的单引号字符串过滤方法
2015/11/14 Python
Centos 升级到python3后pip 无法使用的解决方法
2018/06/12 Python
win7+Python3.5下scrapy的安装方法
2018/07/31 Python
以SQLite和PySqlite为例来学习Python DB API
2020/02/05 Python
基于python图像处理API的使用示例
2020/04/03 Python
利用Python将多张图片合成视频的实现
2020/11/23 Python
Java和Javasciprt的区别
2012/09/02 面试题
教师师德教育的自我评价
2013/10/31 职场文书
电脑销售顾问自荐信
2014/01/29 职场文书
买卖协议书范本
2014/04/21 职场文书
行政监察建议书
2014/05/19 职场文书
师范类求职信
2014/06/21 职场文书
中学生2014国庆节演讲稿:不屈的民族
2014/09/21 职场文书
党的群众路线教育实践活动对照检查材料
2014/09/22 职场文书
督导岗位职责范本
2015/04/10 职场文书
浅谈Redis位图(Bitmap)及Redis二进制中的问题
2021/07/15 Redis
Go语言grpc和protobuf
2022/04/13 Golang