Pytorch卷积层手动初始化权值的实例


Posted in Python onAugust 17, 2019

由于研究关系需要自己手动给卷积层初始化权值,但是好像博客上提到的相关文章比较少(大部分都只提到使用nn.init里的按照一定分布初始化方法),自己参考了下Pytorch的官方文档,发现有两种方法吧。

所以mark下。

import torch
import torch.nn as nn
import torch.optim as optim
import numpy as np

# 第一一个卷积层,我们可以看到它的权值是随机初始化的
w=torch.nn.Conv2d(2,2,3,padding=1)
print(w.weight)


# 第一种方法
print("1.使用另一个Conv层的权值")
q=torch.nn.Conv2d(2,2,3,padding=1) # 假设q代表一个训练好的卷积层
print(q.weight) # 可以看到q的权重和w是不同的
w.weight=q.weight # 把一个Conv层的权重赋值给另一个Conv层
print(w.weight)

# 第二种方法
print("2.使用来自Tensor的权值")
ones=torch.Tensor(np.ones([2,2,3,3])) # 先创建一个自定义权值的Tensor,这里为了方便将所有权值设为1
w.weight=torch.nn.Parameter(ones) # 把Tensor的值作为权值赋值给Conv层,这里需要先转为torch.nn.Parameter类型,否则将报错
print(w.weight)

效果预览

Pytorch卷积层手动初始化权值的实例

以上这篇Pytorch卷积层手动初始化权值的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python判断值是否在list或set中的性能对比分析
Apr 16 Python
python利用正则表达式排除集合中字符的功能示例
Oct 10 Python
python利用smtplib实现QQ邮箱发送邮件
May 20 Python
基于scrapy的redis安装和配置方法
Jun 13 Python
python学习——内置函数、数据结构、标准库的技巧(推荐)
Apr 18 Python
解决django后台样式丢失,css资源加载失败的问题
Jun 11 Python
使用APScheduler3.0.1 实现定时任务的方法
Jul 22 Python
python conda操作方法
Sep 11 Python
Python通过Tesseract库实现文字识别
Mar 05 Python
pandas数据处理之绘图的实现
Jun 15 Python
用pushplus+python监控亚马逊到货动态推送微信
Jan 29 Python
python实现调用摄像头并拍照发邮箱
Apr 27 Python
pytorch自定义初始化权重的方法
Aug 17 #Python
在Pytorch中使用样本权重(sample_weight)的正确方法
Aug 17 #Python
获取Pytorch中间某一层权重或者特征的例子
Aug 17 #Python
pyenv与virtualenv安装实现python多版本多项目管理
Aug 17 #Python
pytorch 获取层权重,对特定层注入hook, 提取中间层输出的方法
Aug 17 #Python
关于PyTorch源码解读之torchvision.models
Aug 17 #Python
django项目用higcharts统计最近七天文章点击量
Aug 17 #Python
You might like
用mysql内存表来代替php session的类
2009/02/01 PHP
PHP获取文件后缀名的三个函数
2012/10/15 PHP
PHP使用CURL_MULTI实现多线程采集的例子
2014/07/29 PHP
详细解读php的命名空间(一)
2018/02/21 PHP
微信公众平台开发教程⑥ 微信开发集成类的使用图文详解
2019/04/10 PHP
CentOS7编译安装php7.1的教程详解
2019/04/18 PHP
js调用activeX获取u盘序列号的代码
2011/11/21 Javascript
html a标签-超链接中confirm方法使用介绍
2013/01/04 Javascript
JS等比例缩小图片尺寸的实例
2013/02/27 Javascript
javascript和HTML5利用canvas构建猜牌游戏实现算法
2013/07/17 Javascript
JS获取iframe中longdesc属性的方法
2015/04/01 Javascript
使用jQuery的easydrag插件实现可拖动的DIV弹出框
2016/02/19 Javascript
js传值后台中文出现乱码的解决方法
2016/06/30 Javascript
ES6新特性八:async函数用法实例详解
2017/04/21 Javascript
html+vue.js 实现漂亮分页功能可兼容IE
2020/11/07 Javascript
使用Python的Flask框架表单插件Flask-WTF实现Web登录验证
2016/07/12 Python
Python学习小技巧之列表项的排序
2017/05/20 Python
Python实现将文本生成二维码的方法示例
2017/07/18 Python
Python网络编程之TCP套接字简单用法示例
2018/04/09 Python
Django3.0 异步通信初体验(小结)
2019/12/04 Python
基于CentOS搭建Python Django环境过程解析
2020/08/24 Python
印度和世界各地的精美产品:Ikka Dukka
2018/02/12 全球购物
村优秀党员事迹材料
2014/01/15 职场文书
出生公证书样本
2014/04/04 职场文书
镇创先争优活动总结
2014/08/28 职场文书
小学生自我评价100字(15篇)
2014/09/18 职场文书
民政局副局长民主生活会个人对照检查材料
2014/09/19 职场文书
党员干部作风建设思想汇报范文
2014/10/25 职场文书
停电通知范文
2015/04/16 职场文书
公司回复函格式
2015/07/14 职场文书
2016应届毕业生实习心得体会
2015/10/09 职场文书
小学思想品德教学反思
2016/02/24 职场文书
《围炉夜话》110句人生箴言,精辟有内涵,引人深思
2019/10/23 职场文书
Redis Cluster集群动态扩容的实现
2021/07/15 Redis
Python实现提取PDF简历信息并存入Excel
2022/04/02 Python
OpenStack虚拟机快照和增量备份实现方法
2022/04/04 Servers