Pytorch卷积层手动初始化权值的实例


Posted in Python onAugust 17, 2019

由于研究关系需要自己手动给卷积层初始化权值,但是好像博客上提到的相关文章比较少(大部分都只提到使用nn.init里的按照一定分布初始化方法),自己参考了下Pytorch的官方文档,发现有两种方法吧。

所以mark下。

import torch
import torch.nn as nn
import torch.optim as optim
import numpy as np

# 第一一个卷积层,我们可以看到它的权值是随机初始化的
w=torch.nn.Conv2d(2,2,3,padding=1)
print(w.weight)


# 第一种方法
print("1.使用另一个Conv层的权值")
q=torch.nn.Conv2d(2,2,3,padding=1) # 假设q代表一个训练好的卷积层
print(q.weight) # 可以看到q的权重和w是不同的
w.weight=q.weight # 把一个Conv层的权重赋值给另一个Conv层
print(w.weight)

# 第二种方法
print("2.使用来自Tensor的权值")
ones=torch.Tensor(np.ones([2,2,3,3])) # 先创建一个自定义权值的Tensor,这里为了方便将所有权值设为1
w.weight=torch.nn.Parameter(ones) # 把Tensor的值作为权值赋值给Conv层,这里需要先转为torch.nn.Parameter类型,否则将报错
print(w.weight)

效果预览

Pytorch卷积层手动初始化权值的实例

以上这篇Pytorch卷积层手动初始化权值的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python挑选文件夹里宽大于300图片的方法
Mar 05 Python
Python脚本判断 Linux 是否运行在虚拟机上
Apr 25 Python
python文件与目录操作实例详解
Feb 22 Python
Python 的描述符 descriptor详解
Feb 27 Python
Python中属性和描述符的正确使用
Aug 23 Python
使用Turtle画正螺旋线的方法
Sep 22 Python
python决策树之CART分类回归树详解
Dec 20 Python
Dlib+OpenCV深度学习人脸识别的方法示例
May 14 Python
Python装饰器使用你可能不知道的几种姿势
Oct 25 Python
Python3实现个位数字和十位数字对调, 其乘积不变
May 03 Python
写好Python代码的几条重要技巧
May 21 Python
Python之matplotlib绘制折线图
Apr 13 Python
pytorch自定义初始化权重的方法
Aug 17 #Python
在Pytorch中使用样本权重(sample_weight)的正确方法
Aug 17 #Python
获取Pytorch中间某一层权重或者特征的例子
Aug 17 #Python
pyenv与virtualenv安装实现python多版本多项目管理
Aug 17 #Python
pytorch 获取层权重,对特定层注入hook, 提取中间层输出的方法
Aug 17 #Python
关于PyTorch源码解读之torchvision.models
Aug 17 #Python
django项目用higcharts统计最近七天文章点击量
Aug 17 #Python
You might like
通过具体程序来理解PHP里面的抽象类
2010/01/28 PHP
php动态实现表格跨行跨列实现代码
2012/11/06 PHP
php修改上传图片尺寸的方法
2015/04/14 PHP
防止文件缓存的js代码
2013/01/10 Javascript
jquery中load方法的用法及注意事项说明
2014/02/22 Javascript
javascript实现左右控制无缝滚动
2014/12/31 Javascript
js实现匹配时换色的输入提示特效代码
2015/08/17 Javascript
Javascript简单实现面向对象编程继承实例代码
2015/11/27 Javascript
javascript实现简单的全选和反选功能
2016/01/05 Javascript
ui组件之input多选下拉实现方法(带有搜索功能)
2016/07/14 Javascript
利用Node.JS实现邮件发送功能
2016/10/21 Javascript
Angularjs中ng-repeat-start与ng-repeat-end的用法实例介绍
2016/12/31 Javascript
Angular中点击li标签实现更改颜色的核心代码
2017/12/08 Javascript
Vue 中对图片地址进行拼接的方法
2018/09/03 Javascript
vue中如何去掉空格的方法实现
2018/11/09 Javascript
浅谈javascript错误处理
2019/08/11 Javascript
Node.js HTTP服务器中的文件、图片上传的方法
2019/09/23 Javascript
[01:45]绝对公平!DOTA2队长征召模式详解
2014/04/25 DOTA
python简单实现基数排序算法
2015/05/16 Python
python分析作业提交情况
2017/11/22 Python
python如何实现int函数的方法示例
2018/02/19 Python
使用tensorflow实现线性svm
2018/09/07 Python
Kali Linux安装ipython2 和 ipython3的方法
2019/07/11 Python
Pycharm pyuic5实现将ui文件转为py文件,让UI界面成功显示
2020/04/08 Python
Bootstrap File Input文件上传组件
2020/12/01 HTML / CSS
美国最大的珠宝首饰网上商城:Jewelry.com
2016/07/22 全球购物
佳能德国网上商店:Canon德国
2017/03/18 全球购物
时装界的“朋克之母”:Vivienne Westwood
2017/07/06 全球购物
加拿大时尚潮流大码女装购物网站:Addition Elle
2018/04/02 全球购物
世界上最具创新性的增强型知名运动品牌:Proviz
2018/04/03 全球购物
小米俄罗斯授权商店:Xiaomi俄罗斯
2019/12/08 全球购物
贫困证明模板(3篇)
2014/09/16 职场文书
教师听课评语大全
2014/12/31 职场文书
检察院起诉书
2015/05/20 职场文书
MongoDB数据库的安装步骤
2021/06/18 MongoDB
victoriaMetrics库布隆过滤器初始化及使用详解
2022/04/05 Golang