Pytorch保存模型用于测试和用于继续训练的区别详解


Posted in Python onJanuary 10, 2020

保存模型

保存模型仅仅是为了测试的时候,只需要

torch.save(model.state_dict, path)

path 为保存的路径

但是有时候模型及数据太多,难以一次性训练完的时候,而且用的还是 Adam优化器的时候, 一定要保存好训练的优化器参数以及epoch

state = { 'model': model.state_dict(), 'optimizer':optimizer.state_dict(), 'epoch': epoch }  
torch.save(state, path)

因为这里

def adjust_learning_rate(optimizer, epoch):
  lr_t = lr
  lr_t = lr_t * (0.3 ** (epoch // 2))
  for param_group in optimizer.param_groups:
    param_group['lr'] = lr_t

学习率是根据epoch变化的, 如果不保存epoch的话,基本上每次都从epoch为0开始训练,这样学习率就相当于不变了!!

恢复模型

恢复模型只用于测试的时候,

model.load_state_dict(torch.load(path))

path为之前存储模型时的路径

但是如果是用于继续训练的话,

checkpoint = torch.load(path)
model.load_state_dict(checkpoint['model'])
optimizer.load_state_dict(checkpoint['optimizer'])
start_epoch = checkpoint['epoch']+1

依次恢复出模型 优化器参数以及epoch

以上这篇Pytorch保存模型用于测试和用于继续训练的区别详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
仅利用30行Python代码来展示X算法
Apr 01 Python
Python数据结构与算法之图结构(Graph)实例分析
Sep 05 Python
Python+matplotlib实现计算两个信号的交叉谱密度实例
Jan 08 Python
Python实现读取Properties配置文件的方法
Mar 29 Python
Python+OpenCV实现车牌字符分割和识别
Mar 31 Python
Python+Pyqt实现简单GUI电子时钟
Feb 22 Python
Django中自定义查询对象的具体使用
Oct 13 Python
python 实现图片上传接口开发 并生成可以访问的图片url
Dec 18 Python
解决django接口无法通过ip进行访问的问题
Mar 27 Python
使用Python和百度语音识别生成视频字幕的实现
Apr 09 Python
Python图像处理库PIL详细使用说明
Apr 06 Python
Pygame游戏开发之太空射击实战敌人精灵篇
Aug 05 Python
使用pytorch完成kaggle猫狗图像识别方式
Jan 10 #Python
解决Pytorch 加载训练好的模型 遇到的error问题
Jan 10 #Python
Ubuntu16.04安装python3.6.5步骤详解
Jan 10 #Python
Pytorch 保存模型生成图片方式
Jan 10 #Python
在pytorch中对非叶节点的变量计算梯度实例
Jan 10 #Python
python如何获取apk的packagename和activity
Jan 10 #Python
浅谈pytorch卷积核大小的设置对全连接神经元的影响
Jan 10 #Python
You might like
php 图片加水印与上传图片加水印php类
2010/05/12 PHP
PHP+javascript制作带提示的验证码源码分享
2014/05/28 PHP
php获取网页中图片、DIV内容的简单方法
2014/06/19 PHP
thinkphp普通查询与表达式查询实例分析
2014/11/24 PHP
PHP与Java对比学习日期时间函数
2016/07/03 PHP
php实现微信分享朋友链接功能
2019/02/18 PHP
初探jquery——表单应用范例
2007/02/20 Javascript
JavaScript学习笔记(一) js基本语法
2011/10/25 Javascript
JavaScript获取网页中第一个链接ID的方法
2015/04/03 Javascript
在JavaScript中操作数组之map()方法的使用
2015/06/09 Javascript
jQuery基于muipicker实现仿ios时间选择
2016/02/22 Javascript
AngularJs学习第八篇 过滤器filter创建
2016/06/08 Javascript
在 Angular 中实现搜索关键字高亮示例
2017/03/21 Javascript
使用clipboard.js实现复制功能的示例代码
2017/10/16 Javascript
JS实现点击下拉菜单把选择的内容同步到input输入框内的实例
2018/01/23 Javascript
解决iview打包时UglifyJs报错的问题
2018/03/07 Javascript
基于JavaScript实现留言板功能
2020/03/16 Javascript
Angular利用HTTP POST下载流文件的步骤记录
2020/07/26 Javascript
[49:40]2018DOTA2亚洲邀请赛小组赛 A组加赛 TNC vs Newbee
2018/04/03 DOTA
用Python写冒泡排序代码
2016/04/12 Python
Python图像的增强处理操作示例【基于ImageEnhance类】
2019/01/03 Python
基于python实现高速视频传输程序
2019/05/05 Python
Python操作excel的方法总结(xlrd、xlwt、openpyxl)
2019/09/02 Python
python实现交并比IOU教程
2020/04/16 Python
python mongo 向数据中的数组类型新增数据操作
2020/12/05 Python
CSS3属性选择符介绍
2008/10/17 HTML / CSS
英国标志性奢侈品牌:Burberry
2016/07/28 全球购物
施华洛世奇匈牙利官网:SWAROVSKI匈牙利
2019/07/06 全球购物
金融专业个人求职信
2013/09/22 职场文书
竟聘演讲稿范文
2013/12/31 职场文书
程序员求职信
2014/04/16 职场文书
校园新闻广播稿5篇
2014/10/10 职场文书
2014法制宣传日活动总结范文
2014/11/01 职场文书
党风廉正建设责任书
2015/01/29 职场文书
「月刊Comic Alive」2022年5月号封面公开
2022/03/21 日漫
Python批量解压&压缩文件夹的示例代码
2022/04/04 Python