keras 权重保存和权重载入方式


Posted in Python onMay 21, 2020

如果需要全部权重载入,直接使用权重载入方式

model.save_weights('./weigths.h5')
model2.load_weights('./weigths.h5')

但是有时候你只需要载入部分权重

所以你可以这样操作

首先,为所有层命名,在层中直接加入方法 name='layer1'

第二,使用,将你不需要载入权重的值更改名字。

最后,载入权重。

x=BatchNormalization(axis=channel_axis,name='layer2')(x)
 
model2.layers[-1].name='pred'
model2.load_weights('./weigths.h5',by_name=True)

上面的代码是对应的操作,这里我除了最后一层,其他层我都加载了权重,记住,by_name 必须赋值为True 这样才能够按照名称对应赋值权重。

注意:两个模型结构必须一样,不然可能出问题

补充知识:Keras中保存和加载权重及模型结构

1. 保存和加载模型结构

(1)保存为JSON字串

json_string = model.to_json()

(2)从JSON字串重构模型

from keras.models import model_from_json
model = model_from_json(json_string)

(3)保存为YAML字串

yaml_string = model.to_yaml()

(4)从YAML字串重构模型

model = model_from_yaml(yaml_string)

2. 保存和加载模型权重(参数)

from keras.models import load_model
 
# 创建HDF5文件'my_model.h5',保存模型参数
model.save('my_model.h5')
 
# 加载模型参数
load_model('my_model.h5')

2.1 处理已保存模型中的自定义层(或其他自定义对象)

如果要加载的模型包含自定义层或其他自定义类或函数,则可以通过 custom_objects 参数将它们传递给加载机制:

from keras.models import load_model
 
# 假设你的模型包含一个 AttentionLayer 类的实例
model = load_model('my_model.h5', custom_objects={'AttentionLayer': AttentionLayer})

或者,你可以使用 自定义对象作用域:

from keras.utils import CustomObjectScope
 
with CustomObjectScope({'AttentionLayer': AttentionLayer}):
 model = load_model('my_model.h5')

自定义对象的处理与 load_model, model_from_json, model_from_yaml 的工作方式相同:

from keras.models import model_from_json

model = model_from_json(json_string, custom_objects={'AttentionLayer': AttentionLayer})

2019年6月1号更新:

更详细的使用方法:

如何保存Keras模型?

(1)一个HDF5文件即保存模型的结构又保存模型的权重

我们不推荐使用pickle或cPickle来保存Keras模型。

你可以使用model.save(filepath)将Keras模型和权重保存在一个HDF5文件中,该文件将包含:

模型的结构,以便重构该模型

模型的权重

训练配置(损失函数,优化器等)

优化器的状态,以便于从上次训练中断的地方开始

使用keras.models.load_model(filepath)来重新实例化你的模型,如果文件中存储了训练配置的话,该函数还会同时完成模型的编译。

例子:

from keras.models import load_model
 
model.save('my_model.h5') # creates a HDF5 file 'my_model.h5'
del model # deletes the existing model
 
# returns a compiled model
# identical to the previous one
model = load_model('my_model.h5')

(2)只保存模型的结构

如果你只是希望保存模型的结构,而不包含其权重或配置信息,可以使用:

# save as JSON
json_string = model.to_json()
 
# save as YAML
yaml_string = model.to_yaml()

这项操作将把模型序列化为json或yaml文件,这些文件对人而言也是友好的,如果需要的话你甚至可以手动打开这些文件并进行编辑。

当然,你也可以从保存好的json文件或yaml文件中载入模型:

# model reconstruction from JSON:
from keras.models import model_from_json
model = model_from_json(json_string)
 
# model reconstruction from YAML
model = model_from_yaml(yaml_string)

(3)只保存模型的权重

如果需要保存模型的权重,可通过下面的代码利用HDF5进行保存。注意,在使用前需要确保你已安装了HDF5和其Python库h5py。

model.save_weights('my_model_weights.h5')

如果你需要在代码中初始化一个完全相同的模型,请使用:

model.load_weights('my_model_weights.h5')

如果你需要加载权重到不同的网络结构(有些层一样)中,例如fine-tune或transfer-learning,你可以通过层名字来加载模型:

model.load_weights('my_model_weights.h5', by_name=True)

例如:

"""
假如原模型为:
 model = Sequential()
 model.add(Dense(2, input_dim=3, name="dense_1"))
 model.add(Dense(3, name="dense_2"))
 ...
 model.save_weights(fname)
"""
# new model
model = Sequential()
model.add(Dense(2, input_dim=3, name="dense_1")) # will be loaded
model.add(Dense(10, name="new_dense")) # will not be loaded
 
# load weights from first model; will only affect the first layer, dense_1.
model.load_weights(fname, by_name=True)

以上这篇keras 权重保存和权重载入方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
wxpython 学习笔记 第一天
Mar 16 Python
Python入门篇之编程习惯与特点
Oct 17 Python
利用Python和OpenCV库将URL转换为OpenCV格式的方法
Mar 27 Python
Python编程pygame模块实现移动的小车示例代码
Jan 03 Python
Python3.6使用tesseract-ocr的正确方法
Oct 17 Python
Django框架自定义模型管理器与元选项用法分析
Jul 22 Python
如何关掉pycharm中的python console(图解)
Oct 31 Python
Numpy之将矩阵拉成向量的实例
Nov 30 Python
Python中import导入不同目录的模块方法详解
Feb 18 Python
Python xlrd excel文件操作代码实例
Mar 10 Python
Python 读取WAV音频文件 画频谱的实例
Mar 14 Python
2020版Python学习路线图(附学习资料)
Sep 15 Python
浅谈keras保存模型中的save()和save_weights()区别
May 21 #Python
Python通过文本和图片生成词云图
May 21 #Python
解决在keras中使用model.save()函数保存模型失败的问题
May 21 #Python
Python 实现敏感目录扫描的示例代码
May 21 #Python
基于python检查矩阵计算结果
May 21 #Python
Django 解决由save方法引发的错误
May 21 #Python
Python OrderedDict字典排序方法详解
May 21 #Python
You might like
星际争霸兵种名称对照表
2020/03/04 星际争霸
PHP大小写问题:函数名和类名不区分,变量名区分
2013/06/17 PHP
PHP实现在线阅读PDF文件的方法
2015/06/23 PHP
PHP获取路径和目录的方法总结【必看篇】
2017/03/04 PHP
Laravel程序架构设计思路之使用动作类
2018/06/07 PHP
Laravel等框架模型关联的可用性浅析
2019/12/15 PHP
发布一个高效的JavaScript分析、压缩工具 JavaScript Analyser
2007/11/30 Javascript
javascript一些不错的函数脚本代码
2008/09/10 Javascript
js,jQuery 排序的实现代码,网页标签排序的实现,标签排序
2011/04/27 Javascript
JavaScript自定义DateDiff函数(兼容所有浏览器)
2012/03/01 Javascript
原生js编写设为首页兼容ie、火狐和谷歌
2014/06/05 Javascript
jQuery插件bgStretcher.js实现全屏背景特效
2015/06/05 Javascript
javascript中使用正则表达式清理table样式的代码
2020/04/01 Javascript
AngularJS ng-style中使用filter
2016/09/21 Javascript
javascript使用btoa和atob来进行Base64转码和解码
2017/03/20 Javascript
给Easyui-Datebox设置隐藏或者不可用的解决方法
2017/05/26 Javascript
Javascript中 toFixed四舍六入方法
2017/08/21 Javascript
详解开发react应用最好用的脚手架 create-react-app
2018/04/24 Javascript
webpack4之SplitChunksPlugin使用指南
2018/06/12 Javascript
Vue中使用 setTimeout() setInterval()函数的问题
2018/09/13 Javascript
基于JavaScript canvas绘制贝塞尔曲线
2018/12/25 Javascript
浅析Vue 防抖与节流的使用
2019/11/14 Javascript
Vue路由守卫及页面登录权限控制的设置方法(两种)
2020/03/31 Javascript
[00:36]我的中国心——Serenity vs Fnatic
2018/08/21 DOTA
在Windows8上的搭建Python和Django环境
2014/07/03 Python
Python3实现简单可学习的手写体识别(实例讲解)
2017/10/21 Python
对Python中的@classmethod用法详解
2018/04/21 Python
Python使用Matplotlib模块时坐标轴标题中文及各种特殊符号显示方法
2018/05/04 Python
TensorFlow索引与切片的实现方法
2019/11/20 Python
opencv 图像礼帽和图像黑帽的实现
2020/07/07 Python
Python绘制组合图的示例
2020/09/18 Python
python 星号(*)的多种用途
2020/09/21 Python
python用tkinter实现一个gui的翻译工具
2020/10/26 Python
班组长的岗位职责
2013/12/09 职场文书
房屋买卖委托书格式范本格式
2014/10/13 职场文书
2015年度个人思想工作总结
2015/04/08 职场文书