Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
PyMongo安装使用笔记
Apr 27 Python
centos6.4下python3.6.1安装教程
Jul 21 Python
python WindowsError的错误代码详解
Jul 23 Python
Python 多线程的实例详解
Sep 07 Python
python删除列表元素的三种方法(remove,pop,del)
Jul 22 Python
Python 从subprocess运行的子进程中实时获取输出的例子
Aug 14 Python
Tensorflow实现在训练好的模型上进行测试
Jan 20 Python
python绘制封闭多边形教程
Feb 18 Python
基于Django signals 信号作用及用法详解
Mar 28 Python
Django Serializer HiddenField隐藏字段实例
Mar 31 Python
详解Ubuntu环境下部署Django+uwsgi+nginx总结
Apr 02 Python
Python3实现英文字母转换哥特式字体实例代码
Sep 01 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
在同一窗体中使用PHP来处理多个提交任务
2008/05/08 PHP
PHP 字符串长度判断效率更高的方法
2014/03/02 PHP
解决cPanel无法安装php5.2.17
2014/06/22 PHP
javascript五图轮播切换实用版
2012/08/17 Javascript
基于jquery的网站幻灯片切换效果焦点图代码
2013/09/15 Javascript
谷歌浏览器不支持showModalDialog模态对话框的解决方法
2014/09/22 Javascript
Node.js开发之访问Redis数据库教程
2015/01/14 Javascript
JS实现黑色风格的网页TAB选项卡效果代码
2015/10/09 Javascript
超漂亮的jQuery图片轮播特效
2015/11/24 Javascript
D3.js封装文本实现自动换行和旋转平移等功能
2016/10/14 Javascript
js模式化窗口问题![window.dialogArguments]
2016/10/30 Javascript
小发现之浅谈location.search与location.hash的问题
2017/06/23 Javascript
Vue.js 使用v-cloak后仍显示变量的解决方法
2018/11/19 Javascript
jQuery判断自定义属性data-val用法示例
2019/01/07 jQuery
element 中 el-menu 组件的无限极循环思路代码详解
2020/04/26 Javascript
Vue——前端生成二维码的示例
2020/12/19 Vue.js
前端如何实现动画过渡效果
2021/02/05 Javascript
[08:42]DOTA2每周TOP10 精彩击杀集锦vol.2
2014/06/25 DOTA
Python程序中用csv模块来操作csv文件的基本使用教程
2016/03/03 Python
详解duck typing鸭子类型程序设计与Python的实现示例
2016/06/03 Python
基于随机梯度下降的矩阵分解推荐算法(python)
2018/08/31 Python
python3 requests库文件上传与下载实现详解
2019/08/22 Python
Django自定义全局403、404、500错误页面的示例代码
2020/03/08 Python
解决django接口无法通过ip进行访问的问题
2020/03/27 Python
后端开发使用pycharm的技巧(推荐)
2020/03/27 Python
Python执行时间的几种计算方法
2020/07/31 Python
Sperry官网:帆船鞋创始品牌
2016/09/07 全球购物
Troy-Bilt官网:草坪割草机、吹雪机、分蘖机等
2019/02/19 全球购物
华美博弈C/VC工程师笔试试题
2012/07/16 面试题
介绍一下Linux中的链接
2016/05/28 面试题
高一政治教学反思
2014/01/28 职场文书
优秀毕业生推荐信范文
2014/03/07 职场文书
文明礼仪伴我行演讲稿
2014/05/12 职场文书
管理标语大全
2014/06/24 职场文书
开工典礼致辞
2015/07/29 职场文书
Python 游戏大作炫酷机甲闯关游戏爆肝数千行代码实现案例进阶
2021/10/16 Python