keras 权重保存和权重载入方式


Posted in Python onMay 21, 2020

如果需要全部权重载入,直接使用权重载入方式

model.save_weights('./weigths.h5')
model2.load_weights('./weigths.h5')

但是有时候你只需要载入部分权重

所以你可以这样操作

首先,为所有层命名,在层中直接加入方法 name='layer1'

第二,使用,将你不需要载入权重的值更改名字。

最后,载入权重。

x=BatchNormalization(axis=channel_axis,name='layer2')(x)
 
model2.layers[-1].name='pred'
model2.load_weights('./weigths.h5',by_name=True)

上面的代码是对应的操作,这里我除了最后一层,其他层我都加载了权重,记住,by_name 必须赋值为True 这样才能够按照名称对应赋值权重。

注意:两个模型结构必须一样,不然可能出问题

补充知识:Keras中保存和加载权重及模型结构

1. 保存和加载模型结构

(1)保存为JSON字串

json_string = model.to_json()

(2)从JSON字串重构模型

from keras.models import model_from_json
model = model_from_json(json_string)

(3)保存为YAML字串

yaml_string = model.to_yaml()

(4)从YAML字串重构模型

model = model_from_yaml(yaml_string)

2. 保存和加载模型权重(参数)

from keras.models import load_model
 
# 创建HDF5文件'my_model.h5',保存模型参数
model.save('my_model.h5')
 
# 加载模型参数
load_model('my_model.h5')

2.1 处理已保存模型中的自定义层(或其他自定义对象)

如果要加载的模型包含自定义层或其他自定义类或函数,则可以通过 custom_objects 参数将它们传递给加载机制:

from keras.models import load_model
 
# 假设你的模型包含一个 AttentionLayer 类的实例
model = load_model('my_model.h5', custom_objects={'AttentionLayer': AttentionLayer})

或者,你可以使用 自定义对象作用域:

from keras.utils import CustomObjectScope
 
with CustomObjectScope({'AttentionLayer': AttentionLayer}):
 model = load_model('my_model.h5')

自定义对象的处理与 load_model, model_from_json, model_from_yaml 的工作方式相同:

from keras.models import model_from_json

model = model_from_json(json_string, custom_objects={'AttentionLayer': AttentionLayer})

2019年6月1号更新:

更详细的使用方法:

如何保存Keras模型?

(1)一个HDF5文件即保存模型的结构又保存模型的权重

我们不推荐使用pickle或cPickle来保存Keras模型。

你可以使用model.save(filepath)将Keras模型和权重保存在一个HDF5文件中,该文件将包含:

模型的结构,以便重构该模型

模型的权重

训练配置(损失函数,优化器等)

优化器的状态,以便于从上次训练中断的地方开始

使用keras.models.load_model(filepath)来重新实例化你的模型,如果文件中存储了训练配置的话,该函数还会同时完成模型的编译。

例子:

from keras.models import load_model
 
model.save('my_model.h5') # creates a HDF5 file 'my_model.h5'
del model # deletes the existing model
 
# returns a compiled model
# identical to the previous one
model = load_model('my_model.h5')

(2)只保存模型的结构

如果你只是希望保存模型的结构,而不包含其权重或配置信息,可以使用:

# save as JSON
json_string = model.to_json()
 
# save as YAML
yaml_string = model.to_yaml()

这项操作将把模型序列化为json或yaml文件,这些文件对人而言也是友好的,如果需要的话你甚至可以手动打开这些文件并进行编辑。

当然,你也可以从保存好的json文件或yaml文件中载入模型:

# model reconstruction from JSON:
from keras.models import model_from_json
model = model_from_json(json_string)
 
# model reconstruction from YAML
model = model_from_yaml(yaml_string)

(3)只保存模型的权重

如果需要保存模型的权重,可通过下面的代码利用HDF5进行保存。注意,在使用前需要确保你已安装了HDF5和其Python库h5py。

model.save_weights('my_model_weights.h5')

如果你需要在代码中初始化一个完全相同的模型,请使用:

model.load_weights('my_model_weights.h5')

如果你需要加载权重到不同的网络结构(有些层一样)中,例如fine-tune或transfer-learning,你可以通过层名字来加载模型:

model.load_weights('my_model_weights.h5', by_name=True)

例如:

"""
假如原模型为:
 model = Sequential()
 model.add(Dense(2, input_dim=3, name="dense_1"))
 model.add(Dense(3, name="dense_2"))
 ...
 model.save_weights(fname)
"""
# new model
model = Sequential()
model.add(Dense(2, input_dim=3, name="dense_1")) # will be loaded
model.add(Dense(10, name="new_dense")) # will not be loaded
 
# load weights from first model; will only affect the first layer, dense_1.
model.load_weights(fname, by_name=True)

以上这篇keras 权重保存和权重载入方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python中无限元素列表的实现方法
Aug 18 Python
python实现的系统实用log类实例
Jun 30 Python
浅析Python中return和finally共同挖的坑
Aug 18 Python
解决python matplotlib imshow无法显示的问题
May 24 Python
Linux下多个Python版本安装教程
Aug 15 Python
python pandas生成时间列表
Jun 29 Python
ERLANG和PYTHON互通实现过程详解
Jul 05 Python
python如何使用jt400.jar包代码实例
Dec 20 Python
使用Python防止SQL注入攻击的实现示例
May 21 Python
Python RabbitMQ实现简单的进程间通信示例
Jul 02 Python
详解在Python中使用Torchmoji将文本转换为表情符号
Jul 27 Python
解决阿里云邮件发送不能使用25端口问题
Aug 07 Python
浅谈keras保存模型中的save()和save_weights()区别
May 21 #Python
Python通过文本和图片生成词云图
May 21 #Python
解决在keras中使用model.save()函数保存模型失败的问题
May 21 #Python
Python 实现敏感目录扫描的示例代码
May 21 #Python
基于python检查矩阵计算结果
May 21 #Python
Django 解决由save方法引发的错误
May 21 #Python
Python OrderedDict字典排序方法详解
May 21 #Python
You might like
浅析php header 跳转
2013/06/17 PHP
php遍历目录与文件夹的多种方法详解
2013/11/14 PHP
PHP获取数组中重复最多的元素的实现方法
2014/11/11 PHP
PHP使用PHPExcel删除Excel单元格指定列的方法
2016/07/06 PHP
php的无刷新操作实现方法分析
2020/02/28 PHP
Prototype RegExp对象 学习
2009/07/19 Javascript
编写高效jQuery代码的4个原则和5个技巧
2014/04/24 Javascript
nodejs实现黑名单中间件设计
2014/06/17 NodeJs
jQuery插件实现大图全屏图片相册
2015/03/14 Javascript
jQuery grep()方法详解及实例代码
2016/10/30 Javascript
vue+axios实现登录拦截的实例代码
2017/05/22 Javascript
JavaScript实现的搜索及高亮显示功能示例
2017/08/14 Javascript
vue checkbox 全选 数据的绑定及获取和计算方法
2018/02/09 Javascript
微信小程序实现星级评价效果
2018/12/28 Javascript
js实现窗口全屏示例详解
2019/09/17 Javascript
layui 数据表格复选框实现单选功能的例子
2019/09/19 Javascript
解决layer.confirm快速点击会重复触发事件的问题
2019/09/23 Javascript
微信小程序自定义胶囊样式
2020/12/27 Javascript
JavaScript canvas实现雨滴特效
2021/01/10 Javascript
[46:25]DOTA2上海特级锦标赛主赛事日 - 4 败者组第五轮 MVP.Phx VS EG第二局
2016/03/05 DOTA
python在linux系统下获取系统内存使用情况的方法
2015/05/11 Python
python操作小程序云数据库实现简单的增删改查功能
2019/06/06 Python
Python自动巡检H3C交换机实现过程解析
2020/08/14 Python
举例详解HTML5中使用JSON格式提交表单
2015/06/16 HTML / CSS
MUGLER官方网站:蒂埃里·穆勒香水
2019/11/26 全球购物
乌克兰排名第一的在线旅游超市:Farvater.Travel
2020/01/02 全球购物
二年级语文教学反思
2014/02/02 职场文书
职工趣味运动会方案
2014/02/10 职场文书
《雪地里的小画家》教学反思
2014/02/22 职场文书
2014幼儿园大班工作总结
2014/11/10 职场文书
2014年学校卫生工作总结
2014/11/20 职场文书
2015年质量管理工作总结范文
2015/05/18 职场文书
2015大学生暑期实习报告
2015/07/13 职场文书
商业计划书如何写?关键问题有哪些?
2019/07/11 职场文书
创业计划书之少年玩具店
2019/09/05 职场文书
深入理解java.lang.String类的不可变性
2021/06/27 Java/Android