pytorch 模型的train模式与eval模式实例


Posted in Python onFebruary 20, 2020

原因

对于一些含有batch normalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。

源代码

[docs] def train(self, mode=True):
  r"""Sets the module in training mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.

  Returns:
   Module: self
  """
  self.training = mode
  for module in self.children():
   module.train(mode)
  return self

[docs] def eval(self):
  r"""Sets the module in evaluation mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.
  """
  #该方法调用了nn.train()方法,把参数默认值改为false. 增加聚合性
  return self.train(False)

在使用含有BN层,dropout层的神经网路来说,必须要区分训练验证

以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python学习之asyncore模块用法实例教程
Sep 29 Python
Python通过PIL获取图片主要颜色并和颜色库进行对比的方法
Mar 19 Python
Python遍历pandas数据方法总结
Feb 09 Python
Python对象转换为json的方法步骤
Apr 25 Python
Python 占位符的使用方法详解
Jul 10 Python
Django打印出在数据库中执行的语句问题
Jul 25 Python
python3.6、opencv安装环境搭建过程(图文教程)
Nov 05 Python
python机器学习实现决策树
Nov 11 Python
浅谈python之自动化运维(Paramiko)
Jan 31 Python
python golang中grpc 使用示例代码详解
Jun 03 Python
使用pyplot.matshow()函数添加绘图标题
Jun 16 Python
Python  序列化反序列化和异常处理的问题小结
Dec 24 Python
pytorch dataloader 取batch_size时候出现bug的解决方式
Feb 20 #Python
pytorch 使用加载训练好的模型做inference
Feb 20 #Python
pytorch中的inference使用实例
Feb 20 #Python
python encrypt 实现AES加密的实例详解
Feb 20 #Python
Python关于反射的实例代码分享
Feb 20 #Python
Python3监控疫情的完整代码
Feb 20 #Python
浅谈Pytorch torch.optim优化器个性化的使用
Feb 20 #Python
You might like
php实现文件编码批量转换
2014/03/10 PHP
学习php设计模式 php实现适配器模式
2015/12/07 PHP
PHP6新特性分析
2016/03/03 PHP
CodeIgniter集成smarty的方法详解
2016/05/26 PHP
JQuery上传插件Uploadify使用详解及错误处理
2010/04/27 Javascript
Jquery跨域获得Json时invalid label错误的解决办法
2011/01/11 Javascript
javascript使用数组的push方法完成快速排序
2014/09/15 Javascript
JavaScript判断图片是否已经加载完毕的方法汇总
2016/02/05 Javascript
快速解决jquery.touchSwipe左右滑动和垂直滚动条冲突
2016/04/15 Javascript
js实现淡入淡出轮播切换功能
2017/01/13 Javascript
js实现模糊匹配功能
2017/02/15 Javascript
jQuery插件HighCharts实现的2D面积图效果示例【附demo源码下载】
2017/03/15 Javascript
node.js操作mysql简单实例
2017/05/25 Javascript
为什么使用koa2搭建微信第三方公众平台的原因
2018/05/16 Javascript
Angular通过指令动态添加组件问题
2018/07/09 Javascript
Vue源码解读之Component组件注册的实现
2018/08/24 Javascript
详解Vue中watch的详细用法
2018/11/28 Javascript
详解微信图片防盗链“此图片来自微信公众平台 未经允许不得引用”的解决方案
2019/04/04 Javascript
js闭包的9个使用场景
2020/12/29 Javascript
[01:07:41]IG vs VGJ.T 2018国际邀请赛小组赛BO2 第一场 8.18
2018/08/19 DOTA
Python 异常的捕获、异常的传递与主动抛出异常操作示例
2019/09/23 Python
Django 解决由save方法引发的错误
2020/05/21 Python
Python实现查找数据库最接近的数据
2020/06/08 Python
Keras官方中文文档:性能评估Metrices详解
2020/06/15 Python
Django后端分离 使用element-ui文件上传方式
2020/07/12 Python
美国宠物护理专家:Revival Animal Health
2020/01/05 全球购物
最新大学生自我评价
2013/09/24 职场文书
高中生活自我鉴定
2014/01/18 职场文书
教师国庆节演讲稿范文2014
2014/09/21 职场文书
2014村党支部书记党建工作汇报材料
2014/11/02 职场文书
2014年帮扶工作总结
2014/11/26 职场文书
2015年敬老月活动总结
2015/03/27 职场文书
调解协议书范本
2016/03/21 职场文书
导游词之重庆钓鱼城
2019/09/19 职场文书
JS如何使用剪贴板操作Clipboard API
2021/05/17 Javascript
python获取对象信息的实例详解
2021/07/07 Python