Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python处理图片之PIL模块简单使用方法
May 11 Python
Django 生成登陆验证码代码分享
Dec 12 Python
Django 路由系统URLconf的使用
Oct 11 Python
设置python3为默认python的方法
Oct 31 Python
Python中GeoJson和bokeh-1的使用讲解
Jan 03 Python
python的pytest框架之命令行参数详解(上)
Jun 27 Python
使用Pandas的Series方法绘制图像教程
Dec 04 Python
简单了解Python3 bytes和str类型的区别和联系
Dec 19 Python
Python 音频生成器的实现示例
Dec 24 Python
python实现猜拳游戏
Mar 04 Python
Python无损压缩图片的示例代码
Aug 06 Python
Python类成员继承重写的实现
Sep 16 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
php Http_Template_IT类库进行模板替换
2009/03/19 PHP
php dirname(__FILE__) 获取当前文件的绝对路径
2011/06/28 PHP
QQ登录 PHP OAuth示例代码
2011/07/20 PHP
关于UEditor编辑器远程图片上传失败的解决办法
2012/08/31 PHP
PHP的autoload机制的实现解析
2012/09/15 PHP
PHP+MySQL删除操作实例
2015/01/21 PHP
PHP获取访问页面HTTP状态码的实现代码
2016/11/03 PHP
详解PHP如何更好的利用PHPstorm的自动提示
2017/08/18 PHP
PHP的mysqli_select_db()函数讲解
2019/01/23 PHP
javascript入门基础之私有变量
2010/02/23 Javascript
JS面向对象编程浅析
2011/08/28 Javascript
javascript时间自动刷新实现原理与步骤
2013/01/06 Javascript
Javascript中产生固定结果的函数优化技巧
2013/01/16 Javascript
jQuery实现 注册时选择阅读条款 左右移动
2013/04/11 Javascript
遍历DOM对象内的元素属性示例代码
2014/02/08 Javascript
JavaScript插件化开发教程 (三)
2015/01/27 Javascript
浅谈js的html元素的父节点,子节点
2016/08/06 Javascript
基于原生js运动方式关键点的总结(推荐)
2017/10/01 Javascript
vue项目部署上线遇到的问题及解决方法
2018/06/10 Javascript
Nodejs异步流程框架async的方法
2019/06/07 NodeJs
three.js 将图片马赛克化的示例代码
2020/07/31 Javascript
利用soaplib搭建webservice详细步骤和实例代码
2013/11/20 Python
Python解释执行原理分析
2014/08/22 Python
Python实现字符串与数组相互转换功能示例
2017/09/22 Python
Python获取指定字符前面的所有字符方法
2018/05/02 Python
在django admin中添加自定义视图的例子
2019/07/26 Python
Python hashlib加密模块常用方法解析
2019/12/18 Python
Python字符串的修改方法实例
2019/12/19 Python
python 轮询执行某函数的2种方式
2020/05/03 Python
美国和加拿大房车出售在线分类广告:RVT.com
2018/04/23 全球购物
Blank NYC官网:夹克、牛仔裤等
2020/12/16 全球购物
工程项目经理岗位职责
2013/12/15 职场文书
幼儿园中班上学期评语
2014/04/18 职场文书
倡议书的写法
2014/08/30 职场文书
世界地球日活动总结
2015/02/09 职场文书
《孙子兵法》:欲成大事者,需读懂这些致胜策略
2019/08/23 职场文书