pytorch 模型的train模式与eval模式实例


Posted in Python onFebruary 20, 2020

原因

对于一些含有batch normalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。

源代码

[docs] def train(self, mode=True):
  r"""Sets the module in training mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.

  Returns:
   Module: self
  """
  self.training = mode
  for module in self.children():
   module.train(mode)
  return self

[docs] def eval(self):
  r"""Sets the module in evaluation mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.
  """
  #该方法调用了nn.train()方法,把参数默认值改为false. 增加聚合性
  return self.train(False)

在使用含有BN层,dropout层的神经网路来说,必须要区分训练验证

以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python切片用法实例教程
Sep 08 Python
Python中使用MELIAE分析程序内存占用实例
Feb 18 Python
Python解决八皇后问题示例
Apr 22 Python
python算法题 链表反转详解
Jul 02 Python
python实现大战外星人小游戏实例代码
Dec 26 Python
python 实现Flask中返回图片流给前端展示
Jan 09 Python
Django+python服务器部署与环境部署教程详解
Mar 30 Python
python使用pymongo与MongoDB基本交互操作示例
Apr 09 Python
python脚本和网页有何区别
Jul 02 Python
详解Anaconda 的安装教程
Sep 23 Python
Scrapy基于scrapy_redis实现分布式爬虫部署的示例
Sep 29 Python
python垃圾回收机制原理分析
Apr 13 Python
pytorch dataloader 取batch_size时候出现bug的解决方式
Feb 20 #Python
pytorch 使用加载训练好的模型做inference
Feb 20 #Python
pytorch中的inference使用实例
Feb 20 #Python
python encrypt 实现AES加密的实例详解
Feb 20 #Python
Python关于反射的实例代码分享
Feb 20 #Python
Python3监控疫情的完整代码
Feb 20 #Python
浅谈Pytorch torch.optim优化器个性化的使用
Feb 20 #Python
You might like
基于PHP字符串的比较函数strcmp()与strcasecmp()的使用详解
2013/05/15 PHP
php获取文件内容最后一行示例
2014/01/09 PHP
Yii2框架自定义类统一处理url操作示例
2019/05/25 PHP
基于laravel Request的所有方法详解
2019/09/29 PHP
PHP中迭代器的简单实现及Yii框架中的迭代器实现方法示例
2020/04/26 PHP
JavaScript 字符串乘法
2009/08/20 Javascript
javascript 拖放效果实现代码
2010/01/22 Javascript
Javascript 垃圾收集机制介绍理解
2013/05/14 Javascript
iPhone手机上搭建nodejs服务器步骤方法
2015/07/06 NodeJs
AngularJs Injecting Services Into Controllers详解
2016/09/02 Javascript
jQuery实现点击任意位置弹出层外关闭弹出层效果
2016/10/19 Javascript
微信小程序 常见问题总结(4058,40013)及解决办法
2017/01/11 Javascript
分享一个精简的vue.js 图片lazyload插件实例
2017/03/13 Javascript
Bootstrap DateTime Picker日历控件简单应用
2017/03/25 Javascript
微信小程序使用Socket的实例
2017/09/19 Javascript
Angular实现的自定义模糊查询、排序及三角箭头标注功能示例
2017/12/28 Javascript
JS获取浏览器地址栏的多个参数值的任意值实例代码
2018/07/24 Javascript
一个Java程序猿眼中的前后端分离以及Vue.js入门(推荐)
2019/04/19 Javascript
vue动态子组件的两种实现方式
2019/09/01 Javascript
Postman动态获取返回值过程详解
2020/06/30 Javascript
vue使用keep-alive实现组件切换时保存原组件数据方法
2020/10/30 Javascript
python计算N天之后日期的方法
2015/03/31 Python
学习python之编写简单乘法口诀表实现代码
2016/02/27 Python
使用Python脚本和ADB命令实现卸载App
2017/02/10 Python
Python模拟用户登录验证
2017/09/11 Python
如何为Python终端提供持久性历史记录
2019/09/03 Python
python实现查找所有程序的安装信息
2020/02/18 Python
使用html2canvas.js实现页面截图并显示或上传的示例代码
2018/12/18 HTML / CSS
京东奢侈品:全球奢侈品牌
2018/03/17 全球购物
澳大利亚二手奢侈品网站:Modsie
2019/09/23 全球购物
道路交通安全实施方案
2014/03/12 职场文书
中国入世承诺
2014/04/01 职场文书
调任通知
2015/04/21 职场文书
赵氏孤儿观后感
2015/06/09 职场文书
2015党建工作简报
2015/07/21 职场文书
用Python的绘图库(matplotlib)绘制小波能量谱
2021/04/17 Python