pytorch 模型的train模式与eval模式实例


Posted in Python onFebruary 20, 2020

原因

对于一些含有batch normalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。

源代码

[docs] def train(self, mode=True):
  r"""Sets the module in training mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.

  Returns:
   Module: self
  """
  self.training = mode
  for module in self.children():
   module.train(mode)
  return self

[docs] def eval(self):
  r"""Sets the module in evaluation mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.
  """
  #该方法调用了nn.train()方法,把参数默认值改为false. 增加聚合性
  return self.train(False)

在使用含有BN层,dropout层的神经网路来说,必须要区分训练验证

以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python通过imaplib模块读取gmail里邮件的方法
May 08 Python
python控制台中实现进度条功能
Nov 10 Python
python文件操作相关知识点总结整理
Feb 22 Python
用python与文件进行交互的方法
Mar 01 Python
使用Python进行QQ批量登录的实例代码
Jun 11 Python
python输出100以内的质数与合数实例代码
Jul 08 Python
python使用for循环计算0-100的整数的和方法
Feb 01 Python
Python-接口开发入门解析
Aug 01 Python
Docker部署Python爬虫项目的方法步骤
Jan 19 Python
Python 操作 PostgreSQL 数据库示例【连接、增删改查等】
Apr 21 Python
Python爬虫如何破解JS加密的Cookie
Nov 19 Python
Pandas中DataFrame交换列顺序的方法实现
Dec 14 Python
pytorch dataloader 取batch_size时候出现bug的解决方式
Feb 20 #Python
pytorch 使用加载训练好的模型做inference
Feb 20 #Python
pytorch中的inference使用实例
Feb 20 #Python
python encrypt 实现AES加密的实例详解
Feb 20 #Python
Python关于反射的实例代码分享
Feb 20 #Python
Python3监控疫情的完整代码
Feb 20 #Python
浅谈Pytorch torch.optim优化器个性化的使用
Feb 20 #Python
You might like
codeigniter框架批量插入数据
2014/01/09 PHP
PHP单态模式简单用法示例
2016/11/16 PHP
浅谈PHP中的错误处理和异常处理
2017/02/04 PHP
EarthLiveSharp中cloudinary的CDN图片缓存自动清理python脚本
2017/04/04 PHP
PHP实现简单计算器小程序
2020/08/28 PHP
JavaScript 应用类库代码
2008/06/02 Javascript
JavaScript Event学习第七章 事件属性
2010/02/07 Javascript
JS焦点图切换,上下翻转
2011/05/12 Javascript
基于jQuery选择器的整理集合
2013/04/26 Javascript
JavaScript中实现单体模式分享
2015/01/29 Javascript
如何使用jQuery技术开发ios风格的页面导航菜单
2015/07/29 Javascript
js继承实现方法详解
2016/12/16 Javascript
微信JSAPI支付操作需要注意的细节
2017/01/10 Javascript
vue小图标favicon不显示的解决方案
2017/09/19 Javascript
jQuery EasyUI 选项卡面板tabs的使用实例讲解
2017/12/25 jQuery
vue spa应用中的路由缓存问题与解决方案
2019/05/31 Javascript
原生js实现五子棋游戏
2020/05/28 Javascript
python支持断点续传的多线程下载示例
2014/01/16 Python
Python3基础之函数用法
2014/08/13 Python
django删除表重建的实现方法
2019/08/28 Python
python RC4加密操作示例【测试可用】
2019/09/26 Python
基于python-pptx库中文文档及使用详解
2020/02/14 Python
python 截取XML中bndbox的坐标中的图像,另存为jpg的实例
2020/03/10 Python
加拿大休闲和工业服装和鞋类零售商:L’Équipeur
2018/01/12 全球购物
微软中国官方商城:Microsoft Store中国
2018/10/12 全球购物
英国现代、当代和设计师家具店:Furntastic
2020/07/18 全球购物
什么是.net的Remoting技术
2016/07/08 面试题
物业门卫岗位职责
2013/12/28 职场文书
酒店个人求职信范文
2014/01/25 职场文书
行政监察建议书
2014/05/19 职场文书
2014年国庆晚会主持词
2014/09/19 职场文书
工作作风建设心得体会
2014/10/22 职场文书
美丽的大脚观后感
2015/06/03 职场文书
学籍证明模板
2015/06/18 职场文书
mysql查询的控制语句图文详解
2021/04/11 MySQL
科学家研发出新型速效酶,可在 24 小时内降解塑料制品
2022/04/29 数码科技