基于pytorch的lstm参数使用详解


Posted in Python onJanuary 14, 2020

lstm(*input, **kwargs)

将多层长短时记忆(LSTM)神经网络应用于输入序列。

参数:

input_size:输入'x'中预期特性的数量

hidden_size:隐藏状态'h'中的特性数量

num_layers:循环层的数量。例如,设置' ' num_layers=2 ' '意味着将两个LSTM堆叠在一起,形成一个'堆叠的LSTM ',第二个LSTM接收第一个LSTM的输出并计算最终结果。默认值:1

bias:如果' False',则该层不使用偏置权重' b_ih '和' b_hh '。默认值:'True'

batch_first:如果' 'True ' ',则输入和输出张量作为(batch, seq, feature)提供。默认值: 'False'

dropout:如果非零,则在除最后一层外的每个LSTM层的输出上引入一个“dropout”层,相当于:attr:'dropout'。默认值:0

bidirectional:如果‘True',则成为双向LSTM。默认值:'False'

输入:input,(h_0, c_0)

**input**of shape (seq_len, batch, input_size):包含输入序列特征的张量。输入也可以是一个压缩的可变长度序列。

see:func:'torch.nn.utils.rnn.pack_padded_sequence' 或:func:'torch.nn.utils.rnn.pack_sequence' 的细节。

**h_0** of shape (num_layers * num_directions, batch, hidden_size):张量包含批处理中每个元素的初始隐藏状态。

如果RNN是双向的,num_directions应该是2,否则应该是1。

**c_0** of shape (num_layers * num_directions, batch, hidden_size):张量包含批处理中每个元素的初始单元格状态。

如果没有提供' (h_0, c_0) ',则**h_0**和**c_0**都默认为零。

输出:output,(h_n, c_n)

**output**of shape (seq_len, batch, num_directions * hidden_size) :包含LSTM最后一层输出特征' (h_t) '张量,

对于每个t. If a:class: 'torch.nn.utils.rnn.PackedSequence' 已经给出,输出也将是一个打包序列。

对于未打包的情况,可以使用'output.view(seq_len, batch, num_directions, hidden_size)',正向和反向分别为方向' 0 '和' 1 '。

同样,在包装的情况下,方向可以分开。

**h_n** of shape (num_layers * num_directions, batch, hidden_size):包含' t = seq_len '隐藏状态的张量。

与*output*类似, the layers可以使用以下命令分隔

h_n.view(num_layers, num_directions, batch, hidden_size) 对于'c_n'相似

**c_n** (num_layers * num_directions, batch, hidden_size):张量包含' t = seq_len '的单元状态

所有的权重和偏差都初始化自: 基于pytorch的lstm参数使用详解 where: 基于pytorch的lstm参数使用详解

include:: cudnn_persistent_rnn.rst
import torch
import torch.nn as nn
 
# 双向rnn例子
# rnn = nn.RNN(10, 20, 2)
# input = torch.randn(5, 3, 10)
# h0 = torch.randn(2, 3, 20)
# output, hn = rnn(input, h0)
# print(output.shape,hn.shape)
# torch.Size([5, 3, 20]) torch.Size([2, 3, 20])
 
# 双向lstm例子
rnn = nn.LSTM(10, 20, 2)   #(input_size,hidden_size,num_layers)
input = torch.randn(5, 3, 10)  #(seq_len, batch, input_size)
h0 = torch.randn(2, 3, 20)    #(num_layers * num_directions, batch, hidden_size)
c0 = torch.randn(2, 3, 20)    #(num_layers * num_directions, batch, hidden_size)
# output:(seq_len, batch, num_directions * hidden_size)
# hn,cn(num_layers * num_directions, batch, hidden_size)
output, (hn, cn) = rnn(input, (h0, c0)) 
 
print(output.shape,hn.shape,cn.shape)
>>>torch.Size([5, 3, 20]) torch.Size([2, 3, 20]) torch.Size([2, 3, 20])

以上这篇基于pytorch的lstm参数使用详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python Mysql自动备份脚本
Jul 14 Python
简单谈谈python中的语句和语法
Aug 10 Python
[原创]教女朋友学Python(一)运行环境搭建
Nov 29 Python
用Python进行简单图像识别(验证码)
Jan 19 Python
python中使用zip函数出现错误的原因
Sep 28 Python
pandas.read_csv参数详解(小结)
Jun 21 Python
Django项目创建到启动详解(最全最详细)
Sep 07 Python
python 使用shutil复制图片的例子
Dec 13 Python
Pyinstaller加密打包应用的示例代码
Jun 11 Python
面向新手解析python Beautiful Soup基本用法
Jul 11 Python
Python调用C/C++的方法解析
Aug 05 Python
Python合并多张图片成PDF
Jun 09 Python
Python利用逻辑回归模型解决MNIST手写数字识别问题详解
Jan 14 #Python
np.random.seed() 的使用详解
Jan 14 #Python
下载与当前Chrome对应的chromedriver.exe(用于python+selenium)
Jan 14 #Python
Python selenium 自动化脚本打包成一个exe文件(推荐)
Jan 14 #Python
pytorch+lstm实现的pos示例
Jan 14 #Python
Python中sorted()排序与字母大小写的问题
Jan 14 #Python
Pytorch实现LSTM和GRU示例
Jan 14 #Python
You might like
php中删除字符串中最先出现某个字符的实现代码
2013/02/03 PHP
php中curl、fsocket、file_get_content三个函数的使用比较
2014/05/09 PHP
PHP入门教程之图像处理技巧分析
2016/09/11 PHP
PHP bin2hex()函数基础实例讲解
2019/02/11 PHP
一个不错的用JavaScript实现的UBB编码函数
2007/03/09 Javascript
用jquery和json从后台获得数据集的代码
2011/11/07 Javascript
输入自动提示搜索提示功能的使用说明:sugggestion.txt
2013/09/02 Javascript
Javascript写入txt和读取txt文件示例
2014/02/12 Javascript
原生js结合html5制作小飞龙的简易跳球
2015/03/30 Javascript
JavaScript性能优化之函数节流(throttle)与函数去抖(debounce)
2016/08/11 Javascript
js代码实现下拉菜单【推荐】
2016/12/15 Javascript
js实现用户输入的小写字母自动转大写字母的方法
2017/01/21 Javascript
JQuery实现文字无缝滚动效果示例代码(Marquee插件)
2017/03/07 Javascript
js求数组中全部数字可拼接出的最大整数示例代码
2017/08/25 Javascript
vue.js实现数据库的JSON数据输出渲染到html页面功能示例
2019/08/03 Javascript
浅谈Vue使用Cascader级联选择器数据回显中的坑
2020/10/31 Javascript
[13:40]TI3青蛙君全程回顾 DOTA2我们为梦想再战
2013/09/13 DOTA
[00:32]DOTA2上海特级锦标赛 Ehome战队宣传片
2016/03/03 DOTA
Python os模块介绍
2014/11/30 Python
pymongo实现控制mongodb中数字字段做加法的方法
2015/03/26 Python
Python中的rfind()方法使用详解
2015/05/19 Python
python处理csv数据动态显示曲线实例代码
2018/01/23 Python
Python文本统计功能之西游记用字统计操作示例
2018/05/07 Python
对python读写文件去重、RE、set的使用详解
2018/12/11 Python
python队列Queue的详解
2019/05/10 Python
Python转换时间的图文方法
2019/07/01 Python
Python使用微信itchat接口实现查看自己微信的信息功能详解
2019/08/22 Python
Django数据库操作之save与update的使用
2020/04/01 Python
解决Jupyter NoteBook输出的图表太小看不清问题
2020/04/16 Python
工厂仓管员岗位职责
2014/01/01 职场文书
母亲节演讲稿范文
2014/01/02 职场文书
市场营销大学生职业规划书
2014/02/25 职场文书
建设投标担保书
2014/05/13 职场文书
物业工程部岗位职责
2015/02/11 职场文书
工会工作个人总结
2015/03/03 职场文书
《清澈的湖水》教学反思
2016/02/17 职场文书