Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python Web框架Flask中使用七牛云存储实例
Feb 08 Python
python检查指定文件是否存在的方法
Jul 06 Python
Python编程中字符串和列表的基本知识讲解
Oct 14 Python
深入解析Python编程中super关键字的用法
Jun 24 Python
解决Python中list里的中文输出到html模板里的问题
Dec 17 Python
django-filter和普通查询的例子
Aug 12 Python
Python TCP通信客户端服务端代码实例
Nov 21 Python
基于Python脚本实现邮件报警功能
May 20 Python
Python虚拟环境venv用法详解
May 25 Python
Python中用xlwt制作表格实例讲解
Nov 05 Python
Jupyter安装拓展nbextensions及解决官网下载慢的问题
Mar 03 Python
一篇文章搞懂python混乱的切换操作与优雅的推导式
Aug 23 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
escape unescape的php下的实现方法
2007/04/27 PHP
PHP面向对象——访问修饰符介绍
2012/11/08 PHP
PHP表单递交控件名称含有点号(.)会被转化为下划线(_)的处理方法
2013/01/06 PHP
ThinkPHP删除栏目(实现批量删除栏目)
2017/06/21 PHP
js parsefloat parseint 转换函数
2010/01/21 Javascript
javascript 基础篇2 数据类型,语句,函数
2012/03/14 Javascript
web开发人员学习jQuery的6大理由及jQuery的优势介绍
2013/01/03 Javascript
JavaScript错误处理
2015/02/03 Javascript
jquery ajax 如何向jsp提交表单数据
2015/08/23 Javascript
jquery实现的判断倒计时是否结束代码
2016/02/05 Javascript
Bootstrap组件系列之福利篇几款好用的组件(推荐二)
2016/07/12 Javascript
关于Node.js中Buffer的一些你可能不知道的用法
2017/03/28 Javascript
H5实现仿flash效果的实现代码
2017/09/29 Javascript
vue实现某元素吸顶或固定位置显示(监听滚动事件)
2017/12/13 Javascript
利用jqprint插件打印页面内容的实现方法
2018/01/09 Javascript
Node.js + express基本用法教程
2019/03/14 Javascript
js实现移动端吸顶效果
2020/01/08 Javascript
微信小程序录音实现功能并上传(使用node解析接收)
2020/02/26 Javascript
[27:28]Ti4 冒泡赛第二天 iG vs NEWBEE 1
2014/07/15 DOTA
[58:35]OG vs EG 2019国际邀请赛淘汰赛 胜者组 BO3 第二场 8.22
2019/09/05 DOTA
[01:10]DOTA2英雄背景故事第四期之混沌法则混沌骑士
2020/07/16 DOTA
利用Celery实现Django博客PV统计功能详解
2017/05/08 Python
详解python上传文件和字符到PHP服务器
2017/11/24 Python
numpy基础教程之np.linalg
2019/02/12 Python
python射线法判断一个点在图形区域内外
2019/06/28 Python
Python 图像处理: 生成二维高斯分布蒙版的实例
2019/07/04 Python
高考考python编程是真的吗
2020/07/20 Python
html5 的a标签 Href 拨电话的写法
2013/11/04 HTML / CSS
html5 postMessage解决跨域、跨窗口消息传递方案
2016/12/20 HTML / CSS
马来西亚时装购物网站:ZALORA马来西亚
2017/03/14 全球购物
以太网Ethernet IEEE802.3
2013/08/05 面试题
《二泉映月》教学反思
2014/04/15 职场文书
临时工聘用合同协议书
2014/10/29 职场文书
学前教育见习总结
2015/06/23 职场文书
在人间读书笔记
2015/06/30 职场文书
2015年校医个人工作总结
2015/07/24 职场文书