pytorch 模型的train模式与eval模式实例


Posted in Python onFebruary 20, 2020

原因

对于一些含有batch normalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。

源代码

[docs] def train(self, mode=True):
  r"""Sets the module in training mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.

  Returns:
   Module: self
  """
  self.training = mode
  for module in self.children():
   module.train(mode)
  return self

[docs] def eval(self):
  r"""Sets the module in evaluation mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.
  """
  #该方法调用了nn.train()方法,把参数默认值改为false. 增加聚合性
  return self.train(False)

在使用含有BN层,dropout层的神经网路来说,必须要区分训练验证

以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python itertools模块详解
May 09 Python
Python画图学习入门教程
Jul 01 Python
代码讲解Python对Windows服务进行监控
Feb 11 Python
python字典快速保存于读取的方法
Mar 23 Python
python实现随机梯度下降法
Mar 24 Python
python将字符串以utf-8格式保存在txt文件中的方法
Oct 30 Python
Python设计模式之职责链模式原理与用法实例分析
Jan 11 Python
Python简易版图书管理系统
Aug 12 Python
python+adb+monkey实现Rom稳定性测试详解
Apr 23 Python
一文轻松掌握python语言命名规范规则
Jun 18 Python
Numpy(Pandas)删除全为零的列的方法
Sep 11 Python
一篇文章教你用python画动态爱心表白
Nov 22 Python
pytorch dataloader 取batch_size时候出现bug的解决方式
Feb 20 #Python
pytorch 使用加载训练好的模型做inference
Feb 20 #Python
pytorch中的inference使用实例
Feb 20 #Python
python encrypt 实现AES加密的实例详解
Feb 20 #Python
Python关于反射的实例代码分享
Feb 20 #Python
Python3监控疫情的完整代码
Feb 20 #Python
浅谈Pytorch torch.optim优化器个性化的使用
Feb 20 #Python
You might like
php设计模式 Interpreter(解释器模式)
2011/06/26 PHP
分享一段php获取linux服务器状态的代码
2014/05/27 PHP
php采集中国代理服务器网的方法
2015/06/16 PHP
PHP 7.1新特性的汇总介绍
2016/12/16 PHP
Laravel 框架路由原理与路由访问实例分析
2020/04/14 PHP
对采用动态原型方式无法展示继承机制得思考
2009/12/04 Javascript
鼠标滑上去后图片放大浮出效果的js代码
2011/05/28 Javascript
详解JavaScript函数绑定
2013/08/18 Javascript
jquery默认校验规则整理
2014/03/24 Javascript
JavaScript检测字符串中是否含有html标签实现方法
2015/07/01 Javascript
深入浅析javascript立即执行函数
2015/10/23 Javascript
详解nodejs与javascript中的aes加密
2016/05/22 NodeJs
Angularjs的ng-repeat中去除重复数据的方法
2016/08/05 Javascript
Angular指令封装jQuery日期时间插件datetimepicker实现双向绑定示例
2017/01/22 Javascript
jQuery实现简单弹窗遮罩效果
2017/02/27 Javascript
jQuery返回定位插件详解
2017/05/15 jQuery
JS中移除非数字最多保留一位小数
2018/05/09 Javascript
在vue项目中引入高德地图及其UI组件的方法
2018/09/04 Javascript
vue+vant-UI框架实现购物车的复选框全选和反选功能
2019/11/05 Javascript
vue-cli3项目升级到vue-cli4 的方法总结
2020/03/19 Javascript
Element Input输入框的使用方法
2020/07/26 Javascript
element 动态合并表格的步骤
2020/12/31 Javascript
Python魔术方法详解
2015/02/14 Python
Python3实现发送QQ邮件功能(html)
2017/12/15 Python
解决Python网页爬虫之中文乱码问题
2018/05/11 Python
centos7之Python3.74安装教程
2019/08/15 Python
python中编写函数并调用的知识点总结
2021/01/13 Python
应届生人事助理求职信
2013/11/09 职场文书
大学新生军训感言
2014/02/25 职场文书
师德建设实施方案
2014/03/21 职场文书
环保建议书500字
2014/05/14 职场文书
师范生求职信
2014/06/14 职场文书
国际贸易实训总结
2015/08/03 职场文书
放飞理想主题班会
2015/08/14 职场文书
大学生如何逃脱“毕业季创业队即散伙”魔咒?
2019/08/19 职场文书
Nginx实现负载均衡的项目实践
2022/03/18 Servers