Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python多线程编程(八):使用Event实现线程间通信
Apr 05 Python
python数据结构之图深度优先和广度优先实例详解
Jul 08 Python
python中os模块详解
Oct 14 Python
Python实现提取XML内容并保存到Excel中的方法
Sep 01 Python
python实现飞机大战
Sep 11 Python
Python3实现的回文数判断及罗马数字转整数算法示例
Mar 27 Python
Python对接 xray 和微信实现自动告警
Sep 17 Python
python 项目目录结构设置
Feb 14 Python
Python3内置函数chr和ord实现进制转换
Jun 05 Python
简述 Python 的类和对象
Aug 21 Python
在pycharm中文件取消用 pytest模式打开的操作
Sep 01 Python
Python Django 后台管理之后台模型属性详解
Apr 25 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
jQuery(1.3.2) 7行代码搞定跟随屏幕滚动的层
2009/05/21 Javascript
JavaScript 函数式编程的原理
2009/10/16 Javascript
jQuery标签替换函数replaceWith()的使用例子
2014/08/28 Javascript
原生js结合html5制作简易的双色子游戏
2015/03/30 Javascript
jQuery替换textarea中换行的方法
2015/06/10 Javascript
AngularJS中的过滤器使用详解
2015/06/16 Javascript
快速学习AngularJs HTTP响应拦截器
2015/12/31 Javascript
Markdown与Bootstrap相结合实现图片自适应属性
2016/05/04 Javascript
jQuery基础的工厂函数以及定时器的经典实例分析
2016/05/20 Javascript
JavaScript解析JSON格式数据的方法示例
2017/01/24 Javascript
javascript 显示全局变量与隐式全局变量的区别
2017/02/09 Javascript
Vue.js实现文章评论和回复评论功能
2020/05/30 Javascript
DataTables添加额外的查询参数和删除columns等无用参数实例
2017/07/04 Javascript
Vue学习笔记进阶篇之过渡状态详解
2017/07/14 Javascript
实现一个完整的Node.js RESTful API的示例
2017/09/29 Javascript
浅谈react-native热更新react-native-pushy集成遇到的问题
2017/09/30 Javascript
微信小程序保存多张图片的实现方法
2019/03/05 Javascript
layui select 禁止点击的实现方法
2019/09/05 Javascript
JavaScript实现图片合成下载的示例
2020/11/19 Javascript
python 获取et和excel的版本号
2009/04/09 Python
python写的ARP攻击代码实例
2014/06/04 Python
python使用matplotlib绘图时图例显示问题的解决
2017/04/27 Python
Python实现PS图像调整颜色梯度效果示例
2018/01/25 Python
pyqt5 tablewidget 利用线程动态刷新数据的方法
2019/06/17 Python
检测python爬虫时是否代理ip伪装成功的方法
2019/07/12 Python
详解用Python爬虫获取百度企业信用中企业基本信息
2020/07/02 Python
Python2手动安装更新pip过程实例解析
2020/07/16 Python
利用CSS3把图片变成灰色模式的实例代码
2016/09/06 HTML / CSS
实习生的自我鉴定范文欣赏
2013/11/20 职场文书
党校培训思想汇报
2013/12/30 职场文书
基层工作经历证明
2014/01/13 职场文书
解除财产保全担保书
2014/05/20 职场文书
材料化学专业求职信
2014/07/15 职场文书
2014年预算员工作总结
2014/12/05 职场文书
出国留学英文自荐信
2015/03/25 职场文书
SpringBoot+Vue+JWT的前后端分离登录认证详细步骤
2021/09/25 Java/Android