Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python深入学习之特殊方法与多范式
Aug 31 Python
Python入门篇之函数
Oct 20 Python
python查找目录下指定扩展名的文件实例
Apr 01 Python
Python中处理时间的几种方法小结
Apr 09 Python
Python实现完整的事务操作示例
Jun 20 Python
Pandas 同元素多列去重的实例
Jul 03 Python
Python基于opencv实现的简单画板功能示例
Mar 04 Python
基于Python解密仿射密码
Oct 21 Python
Pytorch自己加载单通道图片用作数据集训练的实例
Jan 18 Python
jupyter notebook 重装教程
Apr 16 Python
如何使用python切换hosts文件
Apr 29 Python
keras输出预测值和真实值方式
Jun 27 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
PHP中通过加号合并数组的一个简单方法分享
2011/01/27 PHP
php输出xml必须header的解决方法
2014/10/17 PHP
PHP下载远程文件到本地存储的方法
2015/03/24 PHP
带你了解PHP7 性能翻倍的关键
2015/11/19 PHP
Laravel中基于Artisan View扩展包创建及删除应用视图文件的方法
2016/10/08 PHP
PHP 获取客户端 IP 地址的方法实例代码
2018/11/11 PHP
Nigma vs AM BO3 第二场2.13
2021/03/10 DOTA
jquery实现图片渐变切换兼容ie6/Chrome/Firefox
2013/08/02 Javascript
编写高质量JavaScript代码的基本要点
2016/03/02 Javascript
JQuery的常用选择器、过滤器、方法全面介绍
2016/05/25 Javascript
JS闭包的几种常见形式实例详解
2017/09/16 Javascript
微信小程序getPhoneNumber获取用户手机号
2017/09/29 Javascript
详解自定义ajax支持跨域组件封装
2018/02/08 Javascript
学习React中ref的两个demo示例
2018/08/14 Javascript
JavaScript作用域、闭包、对象与原型链概念及用法实例总结
2018/08/20 Javascript
vue swipe自定义组件实现轮播效果
2019/07/03 Javascript
bootstrap 日期控件 datepicker被弹出框dialog覆盖的解决办法
2019/07/09 Javascript
vue实现axios图片上传功能
2019/08/20 Javascript
Vue实现按钮级权限方案
2019/11/21 Javascript
nodejs开发一个最简单的web服务器实例讲解
2020/01/02 NodeJs
[01:03:33]Alliance vs TNC 2019国际邀请赛小组赛 BO2 第一场 8.16
2019/08/18 DOTA
跟老齐学Python之Python文档
2014/10/10 Python
Python判断字符串与大小写转换
2015/06/08 Python
SQLite3中文编码 Python的实现
2017/01/11 Python
Python面向对象类的继承实例详解
2018/06/27 Python
python3.4控制用户输入与输出的方法
2018/10/17 Python
python tkinter图形界面代码统计工具(更新)
2019/09/18 Python
Python利用imshow制作自定义渐变填充柱状图(colorbar)
2020/12/10 Python
Notino瑞典:购买香水和美容产品
2019/07/26 全球购物
会计电算化毕业生自荐信
2014/03/03 职场文书
医学专业毕业生求职信
2014/06/20 职场文书
争先创优公开承诺书
2014/08/30 职场文书
党的群众路线批评与自我批评范文
2014/10/16 职场文书
2014党的群众路线教育实践活动总结材料
2014/10/31 职场文书
夫妻忠诚协议范文
2014/11/16 职场文书
婚宴新郎致辞
2015/07/28 职场文书