Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python制作爬虫采集小说
Oct 25 Python
Python 探针的实现原理
Apr 23 Python
详解python并发获取snmp信息及性能测试
Mar 27 Python
Python数字图像处理之霍夫线变换实现详解
Jan 12 Python
对python添加模块路径的三种方法总结
Oct 16 Python
python自动发送测试报告邮件功能的实现
Jan 22 Python
python使用thrift教程的方法示例
Mar 21 Python
使用Pytorch来拟合函数方式
Jan 14 Python
tensorflow实现对张量数据的切片操作方式
Jan 19 Python
Python random库使用方法及异常处理方案
Mar 02 Python
django 多数据库及分库实现方式
Apr 01 Python
Python 微信公众号文章爬取的示例代码
Nov 30 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
4月1日重磅发布!《星际争霸II》6.0.0版本更新
2020/04/09 星际争霸
PHP常用工具类大全附全部代码下载
2015/12/07 PHP
thinkphp中AJAX返回ajaxReturn()方法分析
2016/12/06 PHP
jquery 子窗口操作父窗口的代码
2009/09/21 Javascript
javascript 必知必会之closure
2009/09/21 Javascript
js下获取div中的数据的原理分析
2010/04/07 Javascript
如何确保JavaScript的执行顺序 之实战篇
2011/03/03 Javascript
JavaScript清空数组元素的两种方法简单比较
2015/07/10 Javascript
JavaScript代码判断点击第几个按钮
2015/12/13 Javascript
jquery获取所有选中的checkbox实现代码
2016/05/26 Javascript
JS优化与惰性载入函数实例分析
2017/04/06 Javascript
ExtJs整合Echarts的示例代码
2018/02/27 Javascript
解决vue脚手架项目打包后路由视图不显示的问题
2018/09/20 Javascript
详解Vue 数据更新了但页面没有更新的 7 种情况汇总及延伸总结
2020/05/28 Javascript
原生js+canvas实现下雪效果
2020/08/02 Javascript
关于vue-cli3打包代码后白屏的解决方案
2020/09/02 Javascript
python从网络读取图片并直接进行处理的方法
2015/05/22 Python
unittest+coverage单元测试代码覆盖操作实例详解
2018/04/04 Python
Python迭代器与生成器基本用法分析
2018/07/26 Python
Python3爬虫学习之应对网站反爬虫机制的方法分析
2018/12/12 Python
python判断文件夹内是否存在指定后缀文件的实例
2019/06/10 Python
解决pyqt5中QToolButton无法使用的问题
2019/06/21 Python
python代码实现逻辑回归logistic原理
2019/08/07 Python
联想法国官方网站:Lenovo法国
2018/10/18 全球购物
法国体育用品商店:GO Sport
2019/10/23 全球购物
澳大利亚家居用品零售商:Harris Scarfe
2020/10/10 全球购物
群众路线剖析材料
2014/02/02 职场文书
大学四年个人自我小结
2014/03/05 职场文书
质量承诺书范文
2014/03/27 职场文书
项目投资意向书
2014/04/01 职场文书
大学生工作求职信
2014/06/23 职场文书
群众路线自查报告及整改措施
2014/11/04 职场文书
导游词开场白
2015/01/31 职场文书
在校生证明
2015/06/17 职场文书
学生病假条范文
2015/08/17 职场文书
2016五一劳动节慰问信
2015/11/30 职场文书