Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
urllib2自定义opener详解
Feb 07 Python
Python之Web框架Django项目搭建全过程
May 02 Python
基于python select.select模块通信的实例讲解
Sep 21 Python
Python实用技巧之利用元组代替字典并为元组元素命名
Jul 11 Python
Sanic框架安装与简单入门示例
Jul 16 Python
浅谈pandas用groupby后对层级索引levels的处理方法
Nov 06 Python
python requests post多层字典的方法
Dec 27 Python
python与字符编码问题
May 24 Python
python批量处理文件或文件夹
Jul 28 Python
Python cookie的保存与读取、SSL讲解
Feb 17 Python
Python如何将函数值赋给变量
Apr 28 Python
python3代码中实现加法重载的实例
Dec 03 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
用PHP和ACCESS写聊天室(九)
2006/10/09 PHP
PHP和Mysqlweb应用开发核心技术 第1部分 Php基础-3 代码组织和重用2
2011/07/03 PHP
php下利用curl判断远程文件是否存在的实现代码
2011/10/08 PHP
php自定义urlencode,urldecode函数实例
2015/03/24 PHP
php模拟post上传图片实现代码
2016/06/24 PHP
PHP链表操作简单示例
2016/10/15 PHP
php输出控制函数和输出函数生成静态页面
2019/06/27 PHP
一页面多XMLHttpRequest对象
2007/01/22 Javascript
JavaScript加强之自定义callback示例
2013/09/21 Javascript
js自定义鼠标右键的实现原理及源码
2014/06/23 Javascript
bootstrap data与jquery .data
2014/07/07 Javascript
jQuery实现瀑布流布局
2014/12/12 Javascript
如何在JS中实现相互转换XML和JSON
2016/07/19 Javascript
微信小程序 Page()函数详解
2016/10/17 Javascript
详解js中==与===的区别
2017/01/08 Javascript
Ionic2调用本地SQlite实例
2017/04/22 Javascript
vue2实现数据请求显示loading图
2017/11/28 Javascript
为vue-router懒加载时下载js的过程中添加loading提示避免无响应问题
2018/04/03 Javascript
基于JavaScript实现瀑布流布局
2018/08/15 Javascript
零基础之Node.js搭建API服务器的详解
2019/03/08 Javascript
[01:28:43]2014 DOTA2华西杯精英邀请赛5 24 DK VS CIS
2014/05/25 DOTA
[47:55]Ti4第二日主赛事败者组 NaVi vs EG 1
2014/07/20 DOTA
使用python实现拉钩网上的FizzBuzzWhizz问题示例
2014/05/05 Python
Python实现读取txt文件并画三维图简单代码示例
2017/12/09 Python
Django给admin添加Action的步骤详解
2019/05/01 Python
浅谈Python中的字符串
2020/06/10 Python
Html5实现iPhone开机界面示例代码
2013/06/30 HTML / CSS
美国大码时尚女装购物网站:ELOQUII
2017/12/28 全球购物
法国房车租赁网站:Yescapa
2019/08/26 全球购物
上学迟到的检讨书
2014/01/11 职场文书
招聘单位介绍信
2014/01/14 职场文书
社区母亲节活动方案
2014/03/05 职场文书
师范生自我鉴定
2014/03/20 职场文书
小学生作文批改评语
2014/12/25 职场文书
拾金不昧表扬稿
2015/01/16 职场文书
python数字图像处理之图像的批量处理
2022/06/28 Python