pytorch 模型的train模式与eval模式实例


Posted in Python onFebruary 20, 2020

原因

对于一些含有batch normalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。

源代码

[docs] def train(self, mode=True):
  r"""Sets the module in training mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.

  Returns:
   Module: self
  """
  self.training = mode
  for module in self.children():
   module.train(mode)
  return self

[docs] def eval(self):
  r"""Sets the module in evaluation mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.
  """
  #该方法调用了nn.train()方法,把参数默认值改为false. 增加聚合性
  return self.train(False)

在使用含有BN层,dropout层的神经网路来说,必须要区分训练验证

以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python中遇到的小问题及解决方法汇总
Jan 11 Python
python Crypto模块的安装与使用方法
Dec 21 Python
Python pygorithm模块用法示例【常见算法测试】
Aug 16 Python
python-opencv颜色提取分割方法
Dec 08 Python
Python在图片中插入大量文字并且自动换行
Jan 02 Python
Python面向对象程序设计构造函数和析构函数用法分析
Apr 12 Python
Python Django中间件,中间件函数,全局异常处理操作示例
Nov 08 Python
Pytorch 定义MyDatasets实现多通道分别输入不同数据方式
Jan 15 Python
Python中Selenium库使用教程详解
Jul 23 Python
pandas apply多线程实现代码
Aug 17 Python
Django如何与Ajax交互
Apr 29 Python
python_tkinter弹出对话框创建
Mar 20 Python
pytorch dataloader 取batch_size时候出现bug的解决方式
Feb 20 #Python
pytorch 使用加载训练好的模型做inference
Feb 20 #Python
pytorch中的inference使用实例
Feb 20 #Python
python encrypt 实现AES加密的实例详解
Feb 20 #Python
Python关于反射的实例代码分享
Feb 20 #Python
Python3监控疫情的完整代码
Feb 20 #Python
浅谈Pytorch torch.optim优化器个性化的使用
Feb 20 #Python
You might like
使用php实现从身份证中提取生日
2016/05/09 PHP
laravel 框架执行流程与原理简单分析
2020/02/01 PHP
js 鼠标拖动对象 可让任何div实现拖动效果
2009/11/09 Javascript
javaScript checkbox 全选/反选及批量删除
2010/04/28 Javascript
IE6弹出“已终止操作”的解决办法
2010/11/27 Javascript
用jquery设置按钮的disabled属性的实现代码
2010/11/28 Javascript
javascript父子页面通讯实例详解
2015/07/17 Javascript
JavaScript实现非常简单实用的下拉菜单效果
2015/08/27 Javascript
javascript每日必学之运算符
2016/02/16 Javascript
基于jquery实现的鼠标悬停提示案例
2016/12/11 Javascript
JS实现拖拽的方法分析
2016/12/20 Javascript
使用重写url机制实现验证码换一张功能
2017/08/01 Javascript
node.js实现微信JS-API封装接口的示例代码
2017/09/06 Javascript
Vue.js实现列表清单的操作方法
2017/11/15 Javascript
详解webpack-dev-server 设置反向代理解决跨域问题
2018/04/18 Javascript
vue组件中iview的modal组件爬坑问题之modal的显示与否应该是使用v-show
2019/04/12 Javascript
[02:01]大师之路——DOTA2完美大师赛11月论剑上海
2017/11/06 DOTA
[02:39]我与DAC之Newbee.Moogy:从论坛到TI
2018/03/26 DOTA
Python字符和字符值(ASCII或Unicode码值)转换方法
2015/05/21 Python
如何处理Python3.4 使用pymssql 乱码问题
2016/01/08 Python
对python 数据处理中的LabelEncoder 和 OneHotEncoder详解
2018/07/11 Python
Django migrations 默认目录修改的方法教程
2018/09/28 Python
python 哈希表实现简单python字典代码实例
2019/09/27 Python
Python+Tensorflow+CNN实现车牌识别的示例代码
2019/10/11 Python
python实现逆滤波与维纳滤波示例
2020/02/26 Python
基于tensorflow for循环 while循环案例
2020/06/30 Python
Python 代码调试技巧示例代码
2020/08/11 Python
Python 实现3种回归模型(Linear Regression,Lasso,Ridge)的示例
2020/10/15 Python
带有css3动画效果的兼容多浏览器简单导航条示例
2014/01/26 HTML / CSS
前台文员岗位职责
2013/12/28 职场文书
中学生自我评价范文
2014/02/08 职场文书
2015国际残疾人日活动总结
2015/03/24 职场文书
第一书记观后感
2015/06/08 职场文书
致青春观后感
2015/06/09 职场文书
HTML+CSS实现导航条下拉菜单的示例代码
2021/08/02 HTML / CSS
Python实现抖音热搜定时爬取功能
2022/03/16 Python