Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python中遍历字典过程中更改元素导致异常的解决方法
May 12 Python
Win7下搭建python开发环境图文教程(安装Python、pip、解释器)
May 17 Python
详解django三种文件下载方式
Apr 06 Python
Python实现通过继承覆盖方法示例
Jul 02 Python
利用python打开摄像头及颜色检测方法
Aug 03 Python
python3+selenium实现126邮箱登陆并发送邮件功能
Jan 23 Python
在Python中,不用while和for循环遍历列表的实例
Feb 20 Python
python实现遍历文件夹图片并重命名
Mar 23 Python
python中使用input()函数获取用户输入值方式
May 03 Python
python Timer 类使用介绍
Dec 28 Python
Python脚本调试工具安装过程
Jan 11 Python
使用python向MongoDB插入时间字段的操作
May 18 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
小偷PHP+Html+缓存
2006/12/20 PHP
php开发过程中关于继承的使用方法分享
2011/06/17 PHP
需要注意的几个PHP漏洞小结
2012/02/05 PHP
国外PHP程序员的13个好习惯小结
2012/02/20 PHP
PHP exif扩展方法开启详解
2014/07/28 PHP
PHP实现动态柱状图改进版
2015/03/30 PHP
PHP7.1实现的AES与RSA加密操作示例
2018/06/15 PHP
CentOS7系统搭建LAMP及更新PHP版本操作详解
2020/03/26 PHP
使用js检测浏览器是否支持html5中的video标签的方法
2014/03/12 Javascript
jquery实现将获取的颜色值转换为十六进制形式的方法
2014/12/20 Javascript
JQuery中的事件及动画用法实例
2015/01/26 Javascript
基于JavaScript实现文字超出部分隐藏
2016/02/29 Javascript
微信小程序ibeacon三点定位详解
2018/10/31 Javascript
ES6 对象的新功能与解构赋值介绍
2019/02/05 Javascript
如何进行微信公众号开发的本地调试的方法
2019/06/16 Javascript
vue-router二级导航切换路由及高亮显示的实现方法
2019/07/10 Javascript
2019年度web前端面试题总结(主要为Vue面试题)
2020/01/12 Javascript
JS简单表单验证功能完整示例
2020/01/26 Javascript
开发Node CLI构建微信小程序脚手架的示例
2020/03/27 Javascript
探究一道价值25k的蚂蚁金服异步串行面试题
2020/08/21 Javascript
python3 读写文件换行符的方法
2018/04/09 Python
python将list转为matrix的方法
2018/12/12 Python
PyQt5 窗口切换与自定义对话框的实例
2019/06/20 Python
python tkinter库实现气泡屏保和锁屏
2019/07/29 Python
详解Python文件修改的两种方式
2019/08/22 Python
python多线程实现TCP服务端
2019/09/03 Python
基于TensorFlow的CNN实现Mnist手写数字识别
2020/06/17 Python
韩国乐天网上商城:Lotte iMall
2021/02/03 全球购物
酷瑞网络科技面试题
2012/03/30 面试题
Java语言程序设计测试题判断题部分
2013/01/06 面试题
2014道德模范事迹材料
2014/02/16 职场文书
办公室副主任职责范本
2014/03/08 职场文书
房屋买卖委托公证书
2014/04/08 职场文书
运动会表扬稿范文
2015/05/05 职场文书
乱世佳人观后感
2015/06/08 职场文书
《宝可梦》动画制作25周年到来 官方发布特别纪念视频
2022/04/01 日漫