Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
用Python进行TCP网络编程的教程
Apr 29 Python
详解supervisor使用教程
Nov 21 Python
Python数据结构之栈、队列的实现代码分享
Dec 04 Python
python入门前的第一课 python怎样入门
Mar 06 Python
python使用if语句实现一个猜拳游戏详解
Aug 27 Python
tensorflow使用指定gpu的方法
Feb 04 Python
Python中使用socks5设置全局代理的方法示例
Apr 15 Python
python3实现将json对象存入Redis以及数据的导入导出
Jul 16 Python
python爬虫要用到的库总结
Jul 28 Python
django使用channels实现通信的示例
Oct 19 Python
Python reversed反转序列并生成可迭代对象
Oct 22 Python
python3.9.1环境安装的方法(图文)
Feb 02 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
用PHP实现图象锐化代码
2007/06/14 PHP
深入理解PHP之require/include顺序 推荐
2011/01/02 PHP
使用PHP备份MYSQL数据的多种方法
2014/01/15 PHP
PHP中创建和验证哈希的简单方法实探
2015/07/06 PHP
Symfony2 session用法实例分析
2016/02/04 PHP
Zend Framework教程之前端控制器Zend_Controller_Front用法详解
2016/03/07 PHP
你可能不再需要JQUERY
2021/03/09 Javascript
js 获取服务器控件值的代码
2010/03/05 Javascript
如何使用jquery控制CSS样式,并且取消Css样式(如背景色,有实例)
2013/07/09 Javascript
javascript验证上传文件的类型限制必须为某些格式
2013/11/14 Javascript
javascript计算用户打开网页的停留时间
2014/01/09 Javascript
jquery实现不同大小浏览器使用不同的css样式表的方法
2014/04/02 Javascript
5个可以帮你理解JavaScript核心闭包和作用域的小例子
2014/10/08 Javascript
jquery提示效果实例分析
2014/11/25 Javascript
jQuery中prependTo()方法用法实例
2015/01/08 Javascript
js获取表格的行数和列数的方法
2015/10/23 Javascript
nodejs微信公众号支付开发
2016/09/19 NodeJs
xmlplus组件设计系列之网格(DataGrid)(10)
2017/05/05 Javascript
详解Angularjs 自定义指令中的数据绑定
2018/07/19 Javascript
如何基于js判断浏览器版本
2020/02/20 Javascript
[01:14]辉夜杯战队访谈宣传片—NEWBEE.Y
2015/12/26 DOTA
python 日期操作类代码
2018/05/05 Python
Python编程深度学习计算库之numpy
2018/12/28 Python
python判断所输入的任意一个正整数是否为素数的两种方法
2019/06/27 Python
python实现猜数字游戏
2020/03/25 Python
python 实现矩阵填充0的例子
2019/11/29 Python
python实现输入三角形边长自动作图求面积案例
2020/04/12 Python
树莓派升级python的具体步骤
2020/07/05 Python
Python测试框架:pytest学习笔记
2020/10/20 Python
45个非常奇妙的CSS3 特性应用示例
2012/01/01 HTML / CSS
美国排名第一的泳池用品直接来源:In The Swim
2019/09/23 全球购物
如何利用find命令查找文件
2015/02/07 面试题
会计员岗位职责
2014/03/15 职场文书
2014年计生工作总结
2014/11/21 职场文书
运动会运动员赞词
2015/07/22 职场文书
win11如何查看端口是否被占用? Win11查看端口是否占用的技巧
2022/04/05 数码科技