pytorch 模型的train模式与eval模式实例


Posted in Python onFebruary 20, 2020

原因

对于一些含有batch normalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。

源代码

[docs] def train(self, mode=True):
  r"""Sets the module in training mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.

  Returns:
   Module: self
  """
  self.training = mode
  for module in self.children():
   module.train(mode)
  return self

[docs] def eval(self):
  r"""Sets the module in evaluation mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.
  """
  #该方法调用了nn.train()方法,把参数默认值改为false. 增加聚合性
  return self.train(False)

在使用含有BN层,dropout层的神经网路来说,必须要区分训练验证

以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python科学计算环境推荐——Anaconda
Jun 30 Python
python 爬虫出现403禁止访问错误详解
Mar 11 Python
Python中几种导入模块的方式总结
Apr 27 Python
Python实现excel转sqlite的方法
Jul 17 Python
python将txt文件读取为字典的示例
Dec 22 Python
python itchat给指定联系人发消息的方法
Jun 11 Python
Python实现一个数组除以一个数的例子
Jul 20 Python
Python笔记之facade模式
Nov 20 Python
python判断无向图环是否存在的示例
Nov 22 Python
Python3.7在anaconda里面使用IDLE编译器的步骤详解
Apr 29 Python
基于Python3读写INI配置文件过程解析
Jul 23 Python
python如何正确使用yield
May 21 Python
pytorch dataloader 取batch_size时候出现bug的解决方式
Feb 20 #Python
pytorch 使用加载训练好的模型做inference
Feb 20 #Python
pytorch中的inference使用实例
Feb 20 #Python
python encrypt 实现AES加密的实例详解
Feb 20 #Python
Python关于反射的实例代码分享
Feb 20 #Python
Python3监控疫情的完整代码
Feb 20 #Python
浅谈Pytorch torch.optim优化器个性化的使用
Feb 20 #Python
You might like
Zend公司全球首推PHP认证
2006/10/09 PHP
PHP垃圾回收机制引用计数器概念分析
2013/06/24 PHP
PHP动态柱状图实现方法
2015/03/30 PHP
php处理json格式数据经典案例总结
2016/05/19 PHP
PHP join()函数用法与实例讲解
2019/03/11 PHP
Mozilla 表达式 __noSuchMethod__
2009/04/05 Javascript
jquery 1.4.2发布!主要是性能与API
2010/02/25 Javascript
document.all的一个比较完整的总结及案例
2013/01/31 Javascript
jquery的相对父元素和相对文档定位示例代码
2013/08/02 Javascript
jquery iframe操作详细解析
2013/11/20 Javascript
JS判断、校验MAC地址的2个实例
2014/05/05 Javascript
javascript 兼容各个浏览器的事件
2015/02/04 Javascript
JS实现鼠标拖拽盒子移动及右键点击盒子消失效果示例
2019/01/29 Javascript
JS+CSS实现炫酷光感效果
2020/09/05 Javascript
[02:42]决战东方!DOTA2亚洲邀请赛重启荣耀之争
2017/03/17 DOTA
在Ubuntu系统下安装使用Python的GUI工具wxPython
2016/02/18 Python
Python基于Floyd算法求解最短路径距离问题实例详解
2018/05/16 Python
使用Python OpenCV为CNN增加图像样本的实现
2019/06/10 Python
Anaconda之conda常用命令介绍(安装、更新、删除)
2019/10/06 Python
pycharm如何设置官方中文(如何汉化)
2020/12/29 Python
详解如何在css3打包后自动追加前缀插件:autoprefixer
2018/12/18 HTML / CSS
在网上学习全世界最好的课程:Coursera
2017/11/07 全球购物
美国综合购物商城:UnbeatableSale.com
2018/11/28 全球购物
.NET面试问题集
2015/12/08 面试题
北大青鸟学生求职信
2013/09/24 职场文书
办公室驾驶员岗位职责
2013/11/15 职场文书
美容师的职业规划书
2013/12/27 职场文书
聘任书模板
2014/03/29 职场文书
教师群众路线教育实践活动学习笔记
2014/11/05 职场文书
廉洁自律个人总结
2015/02/14 职场文书
2015年采购员工作总结
2015/04/27 职场文书
焦裕禄纪念馆观后感
2015/06/09 职场文书
大学军训通讯稿
2015/07/18 职场文书
《金钱的魔力》教学反思
2016/02/20 职场文书
Go语言切片前或中间插入项与内置copy()函数详解
2021/04/27 Golang
Python学习之时间包使用教程详解
2022/03/21 Python