Pytorch卷积层手动初始化权值的实例


Posted in Python onAugust 17, 2019

由于研究关系需要自己手动给卷积层初始化权值,但是好像博客上提到的相关文章比较少(大部分都只提到使用nn.init里的按照一定分布初始化方法),自己参考了下Pytorch的官方文档,发现有两种方法吧。

所以mark下。

import torch
import torch.nn as nn
import torch.optim as optim
import numpy as np

# 第一一个卷积层,我们可以看到它的权值是随机初始化的
w=torch.nn.Conv2d(2,2,3,padding=1)
print(w.weight)


# 第一种方法
print("1.使用另一个Conv层的权值")
q=torch.nn.Conv2d(2,2,3,padding=1) # 假设q代表一个训练好的卷积层
print(q.weight) # 可以看到q的权重和w是不同的
w.weight=q.weight # 把一个Conv层的权重赋值给另一个Conv层
print(w.weight)

# 第二种方法
print("2.使用来自Tensor的权值")
ones=torch.Tensor(np.ones([2,2,3,3])) # 先创建一个自定义权值的Tensor,这里为了方便将所有权值设为1
w.weight=torch.nn.Parameter(ones) # 把Tensor的值作为权值赋值给Conv层,这里需要先转为torch.nn.Parameter类型,否则将报错
print(w.weight)

效果预览

Pytorch卷积层手动初始化权值的实例

以上这篇Pytorch卷积层手动初始化权值的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
MySQL中表的复制以及大型数据表的备份教程
Nov 25 Python
解决python3爬虫无法显示中文的问题
Apr 12 Python
Vue的el-scrollbar实现自定义滚动
May 29 Python
便捷提取python导入包的属性方法
Oct 15 Python
Python XlsxWriter模块Chart类用法实例分析
Mar 11 Python
Python3.5内置模块之os模块、sys模块、shutil模块用法实例分析
Apr 27 Python
Python 200行代码实现一个滑动验证码过程详解
Jul 11 Python
django admin组件使用方法详解
Jul 19 Python
Python django框架输入汉字,数字,字符生成二维码实现详解
Sep 24 Python
使用python制作一个解压缩软件
Nov 13 Python
利用Python脚本批量生成SQL语句
Mar 04 Python
零基础小白多久能学会python
Jun 22 Python
pytorch自定义初始化权重的方法
Aug 17 #Python
在Pytorch中使用样本权重(sample_weight)的正确方法
Aug 17 #Python
获取Pytorch中间某一层权重或者特征的例子
Aug 17 #Python
pyenv与virtualenv安装实现python多版本多项目管理
Aug 17 #Python
pytorch 获取层权重,对特定层注入hook, 提取中间层输出的方法
Aug 17 #Python
关于PyTorch源码解读之torchvision.models
Aug 17 #Python
django项目用higcharts统计最近七天文章点击量
Aug 17 #Python
You might like
在IIS上安装PHP4.0正式版
2006/10/09 PHP
CI框架在CLI下执行占用内存过大问题的解决方法
2014/06/17 PHP
jquery ajax,ashx,json的用法总结
2014/02/12 Javascript
使用js显示当前时间示例
2014/03/02 Javascript
基于jquery实现导航菜单高亮显示(两种方法)
2015/08/23 Javascript
JS实现的新浪微博大厅文字内容滚动效果代码
2015/11/05 Javascript
JavaScript中eval函数的问题
2016/01/31 Javascript
JavaScript中闭包之浅析解读(必看篇)
2016/08/25 Javascript
js中获取键盘事件的简单实现方法
2016/10/10 Javascript
jQuery插件zTree实现的基本树与节点获取操作示例
2017/03/08 Javascript
详解如何在Angular中快速定位DOM元素
2017/05/17 Javascript
three.js实现3D视野缩放效果
2017/11/16 Javascript
解决vue单页路由跳转后scrollTop的问题
2018/09/03 Javascript
详解ES6中的Map与Set集合
2019/03/22 Javascript
Vue中的transition封装组件的实现方法
2019/08/13 Javascript
node删除、复制文件或文件夹示例代码
2019/08/13 Javascript
深入了解JS之作用域和闭包
2020/06/16 Javascript
用Python的Django框架编写从Google Adsense中获得报表的应用
2015/04/17 Python
python里使用正则的findall函数的实例详解
2017/10/19 Python
解决python3中自定义wsgi函数,make_server函数报错的问题
2017/11/21 Python
小白如何入门Python? 制作一个网站为例
2018/03/06 Python
python3+PyQt5实现自定义流体混合窗口部件
2018/04/24 Python
Pycharm新手教程(只需要看这篇就够了)
2019/06/18 Python
Python实现微信中找回好友、群聊用户撤回的消息功能示例
2019/08/23 Python
Python类的绑定方法和非绑定方法实例解析
2020/03/04 Python
基于css3 animate制作绚丽的动画效果
2015/11/24 HTML / CSS
html5清空画布方法(三种)
2017/10/16 HTML / CSS
哥伦比亚最大的网上商店:Linio哥伦比亚
2016/09/25 全球购物
毕业生机械建模求职信
2013/10/14 职场文书
电大物流学生的自我评价
2013/10/25 职场文书
信息部岗位职责
2013/11/12 职场文书
路政管理专业个人自荐信范文
2013/11/30 职场文书
中国央视网签名寄语
2014/01/18 职场文书
会计专业毕业生自荐书
2014/06/25 职场文书
《一面五星红旗》教学反思
2016/02/23 职场文书
创业计划书之服装
2019/10/07 职场文书