numpy实现RNN原理实现


Posted in Python onMarch 02, 2021

首先说明代码只是帮助理解,并未写出梯度下降部分,默认参数已经被固定,不影响理解。代码主要实现RNN原理,只使用numpy库,不可用于GPU加速。

import numpy as np


class Rnn():

  def __init__(self, input_size, hidden_size, num_layers, bidirectional=False):
    self.input_size = input_size
    self.hidden_size = hidden_size
    self.num_layers = num_layers
    self.bidirectional = bidirectional

  def feed(self, x):
    '''

    :param x: [seq, batch_size, embedding]
    :return: out, hidden
    '''

    # x.shape [sep, batch, feature]
    # hidden.shape [hidden_size, batch]
    # Whh0.shape [hidden_size, hidden_size] Wih0.shape [hidden_size, feature]
    # Whh1.shape [hidden_size, hidden_size] Wih1.size [hidden_size, hidden_size]

    out = []
    x, hidden = np.array(x), [np.zeros((self.hidden_size, x.shape[1])) for i in range(self.num_layers)]
    Wih = [np.random.random((self.hidden_size, self.hidden_size)) for i in range(1, self.num_layers)]
    Wih.insert(0, np.random.random((self.hidden_size, x.shape[2])))
    Whh = [np.random.random((self.hidden_size, self.hidden_size)) for i in range(self.num_layers)]

    time = x.shape[0]
    for i in range(time):
      hidden[0] = np.tanh((np.dot(Wih[0], np.transpose(x[i, ...], (1, 0))) +
               np.dot(Whh[0], hidden[0])
               ))

      for i in range(1, self.num_layers):
        hidden[i] = np.tanh((np.dot(Wih[i], hidden[i-1]) +
                   np.dot(Whh[i], hidden[i])
                   ))

      out.append(hidden[self.num_layers-1])

    return np.array(out), np.array(hidden)


def sigmoid(x):
  return 1.0/(1.0 + 1.0/np.exp(x))


if __name__ == '__main__':
  rnn = Rnn(1, 5, 4)
  input = np.random.random((6, 2, 1))
  out, h = rnn.feed(input)
  print(f'seq is {input.shape[0]}, batch_size is {input.shape[1]} ', 'out.shape ', out.shape, ' h.shape ', h.shape)
  # print(sigmoid(np.random.random((2, 3))))
  #
  # element-wise multiplication
  # print(np.array([1, 2])*np.array([2, 1]))

到此这篇关于numpy实现RNN原理实现的文章就介绍到这了,更多相关numpy实现RNN内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python 错误和异常小结
Oct 09 Python
使用Python制作获取网站目录的图形化程序
May 04 Python
python实现可以断点续传和并发的ftp程序
Sep 13 Python
Python基础学习之类与实例基本用法与注意事项详解
Jun 17 Python
python 变量初始化空列表的例子
Nov 28 Python
django框架cookie和session用法实例详解
Dec 10 Python
Python爬虫工具requests-html使用解析
Apr 29 Python
python将dict中的unicode打印成中文实例
May 11 Python
用 python 进行微信好友信息分析
Nov 28 Python
python学习之使用Matplotlib画实时的动态折线图的示例代码
Feb 25 Python
python pyg2plot的原理知识点总结
Feb 28 Python
基于Python实现nc批量转tif格式
Aug 14 Python
解决tensorflow模型压缩的问题_踩坑无数,总算搞定
Mar 02 #Python
python Protobuf定义消息类型知识点讲解
Mar 02 #Python
Django项目在pycharm新建的步骤方法
Mar 02 #Python
基于注解实现 SpringBoot 接口防刷的方法
Mar 02 #Python
python Autopep8实现按PEP8风格自动排版Python代码
Mar 02 #Python
pycharm配置安装autopep8自动规范代码的实现
Mar 02 #Python
Python实现我的世界小游戏源代码
Mar 02 #Python
You might like
《星际争霸重制版》兵种对比图鉴
2020/03/02 星际争霸
CodeIgniter中实现泛域名解析
2014/07/19 PHP
PHP调用.NET的WebService 简单实例
2015/03/27 PHP
php实现socket推送技术的示例
2017/12/20 PHP
使用TextRange获取输入框中光标的位
2006/10/14 Javascript
基于jquery的代码显示区域自动拉长效果
2011/12/07 Javascript
jquery 多行文本框(textarea)高度变化
2013/07/03 Javascript
js计算任意值之间随机数的方法
2015/01/16 Javascript
分享经典的JavaScript开发技巧
2015/11/21 Javascript
jquery $.trim()去除字符串空格的实现方法【附图例】
2016/03/30 Javascript
jQuery grep()方法详解及实例代码
2016/10/30 Javascript
jquery实现数字输入框
2017/02/22 Javascript
jquery点赞功能实现代码 点个赞吧!
2020/05/29 jQuery
JavaScript使用readAsDataUrl方法预览图片
2017/05/10 Javascript
JavaScript实现读取与输出XML文件数据的方法示例
2018/06/05 Javascript
微信小程序chooseImage的用法(从本地相册选择图片或使用相机拍照)
2018/08/22 Javascript
微信小程序生成二维码的示例代码
2019/03/29 Javascript
Vue模板语法中数据绑定的实例代码
2019/05/17 Javascript
vue响应式更新机制及不使用框架实现简单的数据双向绑定问题
2019/06/27 Javascript
vue.js iview打包上线后字体图标不显示解决办法
2020/01/20 Javascript
原生JS实现烟花效果
2020/03/10 Javascript
Vue基于localStorage存储信息代码实例
2020/11/16 Javascript
[47:20]DAC2018 4.4 淘汰赛 Optic vs Mineski 第一场
2018/04/05 DOTA
python函数缺省值与引用学习笔记分享
2013/02/10 Python
Python+django实现文件上传
2016/01/17 Python
Python 获得命令行参数的方法(推荐)
2018/01/24 Python
详解Django rest_framework实现RESTful API
2018/05/24 Python
详解Python循环作用域与闭包
2019/03/21 Python
在django中使用apscheduler 执行计划任务的实现方法
2020/02/11 Python
mac在matplotlib中显示中文的操作方法
2020/03/06 Python
Python GUI编程学习笔记之tkinter控件的介绍及基本使用方法详解
2020/03/30 Python
Visual Studio code 配置Python开发环境
2020/09/11 Python
css3绘制百度的小度熊
2018/10/29 HTML / CSS
培训自我鉴定
2014/01/31 职场文书
汇报材料怎么写
2014/12/30 职场文书
ipad隐藏软件app图标方法
2022/04/19 数码科技