Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python编程pygal绘图实例之XY线
Dec 09 Python
Ubuntu16.04/树莓派Python3+opencv配置教程(分享)
Apr 02 Python
解决webdriver.Chrome()报错:Message:'chromedriver' executable needs to be in Path
Jun 12 Python
python pandas时序处理相关功能详解
Jul 03 Python
python+tkinter实现学生管理系统
Aug 20 Python
Python面向对象程序设计之类和对象、实例变量、类变量用法分析
Mar 23 Python
Python延迟绑定问题原理及解决方案
Aug 04 Python
python+selenium自动化实战携带cookies模拟登陆微博
Jan 19 Python
用pushplus+python监控亚马逊到货动态推送微信
Jan 29 Python
教你使用Python pypinyin库实现汉字转拼音
May 27 Python
Python实现列表拼接和去重的三种方式
Jul 02 Python
用Python爬取英雄联盟的皮肤详细示例
Dec 06 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
简单易用的计数器(数据库)
2006/10/09 PHP
coreseek 搜索英文的问题详解
2013/06/08 PHP
使用php判断网页是否gzip压缩
2013/06/25 PHP
smarty中post用法实例
2014/11/28 PHP
php生成随机颜色方法汇总
2014/12/03 PHP
Array.prototype.slice.apply的使用方法
2010/03/17 Javascript
js动画效果制件让图片组成动画代码分享
2014/01/14 Javascript
js中arguments,caller,callee,apply的用法小结
2014/01/28 Javascript
JavaScript实现班级随机点名小应用需求的具体分析
2014/05/12 Javascript
node.js中的定时器nextTick()和setImmediate()区别分析
2014/11/26 Javascript
JavaScript操作Oracle数据库示例
2015/03/06 Javascript
Bootstrap基本模板的使用和理解1
2016/12/14 Javascript
Bootstrap CSS组件之导航(nav)
2016/12/17 Javascript
parabola.js抛物线与加入购物车效果的示例代码
2017/10/25 Javascript
解决bootstrap模态框数据缓存的问题方法
2018/08/10 Javascript
JavaScript从原型到原型链深入理解
2019/06/03 Javascript
JS实现判断移动端PC端功能
2020/02/21 Javascript
python通过ftplib登录到ftp服务器的方法
2015/05/08 Python
selenium python浏览器多窗口处理代码示例
2018/01/15 Python
利用pyinstaller将py文件打包为exe的方法
2018/05/14 Python
python smtplib模块实现发送邮件带附件sendmail
2018/05/22 Python
django manage.py扩展自定义命令方法
2018/05/27 Python
Python 打印中文字符的三种方法
2018/08/14 Python
Python求解正态分布置信区间教程
2019/11/20 Python
浅谈PyQt5中异步刷新UI和Python多线程总结
2019/12/13 Python
如何让python的运行速度得到提升
2020/07/08 Python
python工具——Mimesis的简单使用教程
2021/01/16 Python
澳大利亚家具和家居用品在线:BROSA
2017/11/02 全球购物
Vector, ArrayList, HashTable, HashMap哪些是线程安全的,哪些不是
2015/10/12 面试题
搬家公司的创业计划书
2014/01/01 职场文书
大学军训的体会
2014/11/08 职场文书
坎儿井导游词
2015/02/09 职场文书
让世界充满爱观后感
2015/06/10 职场文书
javaScript Array api梳理
2021/03/31 Javascript
将图片保存到mysql数据库并展示在前端页面的实现代码
2021/05/02 MySQL
用 Python 元类的特性实现 ORM 框架
2021/05/19 Python