基于pytorch的lstm参数使用详解


Posted in Python onJanuary 14, 2020

lstm(*input, **kwargs)

将多层长短时记忆(LSTM)神经网络应用于输入序列。

参数:

input_size:输入'x'中预期特性的数量

hidden_size:隐藏状态'h'中的特性数量

num_layers:循环层的数量。例如,设置' ' num_layers=2 ' '意味着将两个LSTM堆叠在一起,形成一个'堆叠的LSTM ',第二个LSTM接收第一个LSTM的输出并计算最终结果。默认值:1

bias:如果' False',则该层不使用偏置权重' b_ih '和' b_hh '。默认值:'True'

batch_first:如果' 'True ' ',则输入和输出张量作为(batch, seq, feature)提供。默认值: 'False'

dropout:如果非零,则在除最后一层外的每个LSTM层的输出上引入一个“dropout”层,相当于:attr:'dropout'。默认值:0

bidirectional:如果‘True',则成为双向LSTM。默认值:'False'

输入:input,(h_0, c_0)

**input**of shape (seq_len, batch, input_size):包含输入序列特征的张量。输入也可以是一个压缩的可变长度序列。

see:func:'torch.nn.utils.rnn.pack_padded_sequence' 或:func:'torch.nn.utils.rnn.pack_sequence' 的细节。

**h_0** of shape (num_layers * num_directions, batch, hidden_size):张量包含批处理中每个元素的初始隐藏状态。

如果RNN是双向的,num_directions应该是2,否则应该是1。

**c_0** of shape (num_layers * num_directions, batch, hidden_size):张量包含批处理中每个元素的初始单元格状态。

如果没有提供' (h_0, c_0) ',则**h_0**和**c_0**都默认为零。

输出:output,(h_n, c_n)

**output**of shape (seq_len, batch, num_directions * hidden_size) :包含LSTM最后一层输出特征' (h_t) '张量,

对于每个t. If a:class: 'torch.nn.utils.rnn.PackedSequence' 已经给出,输出也将是一个打包序列。

对于未打包的情况,可以使用'output.view(seq_len, batch, num_directions, hidden_size)',正向和反向分别为方向' 0 '和' 1 '。

同样,在包装的情况下,方向可以分开。

**h_n** of shape (num_layers * num_directions, batch, hidden_size):包含' t = seq_len '隐藏状态的张量。

与*output*类似, the layers可以使用以下命令分隔

h_n.view(num_layers, num_directions, batch, hidden_size) 对于'c_n'相似

**c_n** (num_layers * num_directions, batch, hidden_size):张量包含' t = seq_len '的单元状态

所有的权重和偏差都初始化自: 基于pytorch的lstm参数使用详解 where: 基于pytorch的lstm参数使用详解

include:: cudnn_persistent_rnn.rst
import torch
import torch.nn as nn
 
# 双向rnn例子
# rnn = nn.RNN(10, 20, 2)
# input = torch.randn(5, 3, 10)
# h0 = torch.randn(2, 3, 20)
# output, hn = rnn(input, h0)
# print(output.shape,hn.shape)
# torch.Size([5, 3, 20]) torch.Size([2, 3, 20])
 
# 双向lstm例子
rnn = nn.LSTM(10, 20, 2)   #(input_size,hidden_size,num_layers)
input = torch.randn(5, 3, 10)  #(seq_len, batch, input_size)
h0 = torch.randn(2, 3, 20)    #(num_layers * num_directions, batch, hidden_size)
c0 = torch.randn(2, 3, 20)    #(num_layers * num_directions, batch, hidden_size)
# output:(seq_len, batch, num_directions * hidden_size)
# hn,cn(num_layers * num_directions, batch, hidden_size)
output, (hn, cn) = rnn(input, (h0, c0)) 
 
print(output.shape,hn.shape,cn.shape)
>>>torch.Size([5, 3, 20]) torch.Size([2, 3, 20]) torch.Size([2, 3, 20])

以上这篇基于pytorch的lstm参数使用详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python使用xmlrpc实例讲解
Dec 17 Python
详解Python网络爬虫功能的基本写法
Jan 28 Python
解决python3爬虫无法显示中文的问题
Apr 12 Python
解决python os.mkdir创建目录失败的问题
Oct 16 Python
python3.x+pyqt5实现主窗口状态栏里(嵌入)显示进度条功能
Jul 04 Python
详解python路径拼接os.path.join()函数的用法
Oct 09 Python
python 实现生成均匀分布的点
Dec 05 Python
Python +Selenium解决图片验证码登录或注册问题(推荐)
Feb 09 Python
python 装饰器功能与用法案例详解
Mar 06 Python
python 实现客户端与服务端的通信
Dec 23 Python
python 实现IP子网计算
Feb 18 Python
Django一小时写出账号密码管理系统
Apr 29 Python
Python利用逻辑回归模型解决MNIST手写数字识别问题详解
Jan 14 #Python
np.random.seed() 的使用详解
Jan 14 #Python
下载与当前Chrome对应的chromedriver.exe(用于python+selenium)
Jan 14 #Python
Python selenium 自动化脚本打包成一个exe文件(推荐)
Jan 14 #Python
pytorch+lstm实现的pos示例
Jan 14 #Python
Python中sorted()排序与字母大小写的问题
Jan 14 #Python
Pytorch实现LSTM和GRU示例
Jan 14 #Python
You might like
php提示Call-time pass-by-reference has been deprecated in的解决方法[已测]
2012/05/06 PHP
PHP基本语法总结
2014/09/06 PHP
PDO的安全处理与事物处理方法
2016/10/31 PHP
Yii2 中实现单点登录的方法
2018/03/09 PHP
网页里控制图片大小的相关代码
2006/06/25 Javascript
解决jquery .ajax 在IE下卡死问题的解决方法
2009/10/26 Javascript
$.format,jquery.format 使用说明
2011/07/13 Javascript
原生js的弹出层且其内的窗口居中
2014/05/14 Javascript
JS排序之快速排序详解
2017/04/08 Javascript
详解Windows下安装Nodejs步骤
2017/05/18 NodeJs
前端主流框架vue学习笔记第一篇
2017/07/26 Javascript
一步一步实现Vue的响应式(对象观测)
2019/09/02 Javascript
vue data恢复初始化数据的实现方法
2019/10/31 Javascript
使用JavaScript计算前一天和后一天的思路详解
2019/12/20 Javascript
[36:05]完美世界DOTA2联赛循环赛 Forest vs DM 第一场 11.06
2020/11/06 DOTA
Python获取某一天是星期几的方法示例
2017/01/17 Python
tensorflow实现对图片的读取的示例代码
2018/02/12 Python
基于anaconda下强大的conda命令介绍
2018/06/11 Python
Flask框架配置与调试操作示例
2018/07/23 Python
通过自学python能找到工作吗
2020/06/21 Python
如何解决pycharm调试报错的问题
2020/08/06 Python
Python从MySQL数据库中面抽取试题,生成试卷
2021/01/14 Python
NUK奶瓶美国官网:NUK美国
2016/09/26 全球购物
数控加工专业毕业生自荐信
2013/09/27 职场文书
餐厅考勤管理制度
2014/01/28 职场文书
教师专业自荐书范文
2014/02/10 职场文书
升国旗仪式主持词
2014/03/19 职场文书
关于热爱祖国的演讲稿
2014/05/04 职场文书
质量整改报告范文
2014/11/08 职场文书
五年级数学教学反思
2016/02/16 职场文书
分享15个Webpack实用的插件!!!
2021/03/31 Javascript
浅谈Python从全局与局部变量到装饰器的相关知识
2021/06/21 Python
Python学习开发之图形用户界面详解
2021/08/23 Python
Java网络编程之UDP实现原理解析
2021/09/04 Java/Android
使用HttpSessionListener监听器实战
2022/03/17 Java/Android