numpy实现RNN原理实现


Posted in Python onMarch 02, 2021

首先说明代码只是帮助理解,并未写出梯度下降部分,默认参数已经被固定,不影响理解。代码主要实现RNN原理,只使用numpy库,不可用于GPU加速。

import numpy as np


class Rnn():

  def __init__(self, input_size, hidden_size, num_layers, bidirectional=False):
    self.input_size = input_size
    self.hidden_size = hidden_size
    self.num_layers = num_layers
    self.bidirectional = bidirectional

  def feed(self, x):
    '''

    :param x: [seq, batch_size, embedding]
    :return: out, hidden
    '''

    # x.shape [sep, batch, feature]
    # hidden.shape [hidden_size, batch]
    # Whh0.shape [hidden_size, hidden_size] Wih0.shape [hidden_size, feature]
    # Whh1.shape [hidden_size, hidden_size] Wih1.size [hidden_size, hidden_size]

    out = []
    x, hidden = np.array(x), [np.zeros((self.hidden_size, x.shape[1])) for i in range(self.num_layers)]
    Wih = [np.random.random((self.hidden_size, self.hidden_size)) for i in range(1, self.num_layers)]
    Wih.insert(0, np.random.random((self.hidden_size, x.shape[2])))
    Whh = [np.random.random((self.hidden_size, self.hidden_size)) for i in range(self.num_layers)]

    time = x.shape[0]
    for i in range(time):
      hidden[0] = np.tanh((np.dot(Wih[0], np.transpose(x[i, ...], (1, 0))) +
               np.dot(Whh[0], hidden[0])
               ))

      for i in range(1, self.num_layers):
        hidden[i] = np.tanh((np.dot(Wih[i], hidden[i-1]) +
                   np.dot(Whh[i], hidden[i])
                   ))

      out.append(hidden[self.num_layers-1])

    return np.array(out), np.array(hidden)


def sigmoid(x):
  return 1.0/(1.0 + 1.0/np.exp(x))


if __name__ == '__main__':
  rnn = Rnn(1, 5, 4)
  input = np.random.random((6, 2, 1))
  out, h = rnn.feed(input)
  print(f'seq is {input.shape[0]}, batch_size is {input.shape[1]} ', 'out.shape ', out.shape, ' h.shape ', h.shape)
  # print(sigmoid(np.random.random((2, 3))))
  #
  # element-wise multiplication
  # print(np.array([1, 2])*np.array([2, 1]))

到此这篇关于numpy实现RNN原理实现的文章就介绍到这了,更多相关numpy实现RNN内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
tensorflow建立一个简单的神经网络的方法
Feb 10 Python
Python 3.6 读取并操作文件内容的实例
Apr 23 Python
python 简单照相机调用系统摄像头实现方法 pygame
Aug 03 Python
Python 通过微信控制实现app定位发送到个人服务器再转发微信服务器接收位置信息
Aug 05 Python
Python循环实现n的全排列功能
Sep 16 Python
Django 删除upload_to文件的步骤
Mar 30 Python
python读取yaml文件后修改写入本地实例
Apr 27 Python
Python实现数字的格式化输出
Aug 01 Python
Python如何发送与接收大型数组
Aug 07 Python
python切割图片的示例
Nov 12 Python
Python获取指定网段正在使用的IP
Dec 14 Python
Python面向对象之成员相关知识总结
Jun 24 Python
解决tensorflow模型压缩的问题_踩坑无数,总算搞定
Mar 02 #Python
python Protobuf定义消息类型知识点讲解
Mar 02 #Python
Django项目在pycharm新建的步骤方法
Mar 02 #Python
基于注解实现 SpringBoot 接口防刷的方法
Mar 02 #Python
python Autopep8实现按PEP8风格自动排版Python代码
Mar 02 #Python
pycharm配置安装autopep8自动规范代码的实现
Mar 02 #Python
Python实现我的世界小游戏源代码
Mar 02 #Python
You might like
搜索引擎技术核心揭密
2006/10/09 PHP
php采集文章中的图片获取替换到本地(实现代码)
2013/07/08 PHP
几道坑人的PHP面试题 试试看看你会不会也中招
2014/08/19 PHP
javascript的trim,ltrim,rtrim自定义函数
2008/09/21 Javascript
jquery 插件 web2.0分格的分页脚本,可用于ajax无刷新分页
2008/12/25 Javascript
js通过googleAIP翻译PHP系统的语言配置的实现代码
2011/10/17 Javascript
JavaScript字符串插入、删除、替换函数使用示例
2013/07/25 Javascript
javascript实现Email邮件显示与删除功能
2015/11/21 Javascript
Ionic实现页面下拉刷新(ion-refresher)功能代码
2016/06/03 Javascript
jquery 中toggle的2种用法详解(推荐)
2016/09/02 Javascript
Vue.js实现无限加载与分页功能开发
2016/11/03 Javascript
详解ECharts使用心得总结
2016/12/06 Javascript
JavaScript版经典游戏之扫雷游戏完整示例【附demo源码下载】
2016/12/12 Javascript
angularjs实现下拉列表的选中事件示例
2017/03/03 Javascript
微信小程序的线程架构【推荐】
2019/05/14 Javascript
Python3中常用的处理时间和实现定时任务的方法的介绍
2015/04/07 Python
使用Python脚本将Bing的每日图片作为桌面的教程
2015/05/04 Python
PyCharm设置每行最大长度限制的方法
2019/01/16 Python
python处理大日志文件
2019/07/23 Python
Python延迟绑定问题原理及解决方案
2020/08/04 Python
香蕉共和国加拿大官网:Banana Republic加拿大
2018/08/06 全球购物
Levi’s西班牙官方网站:李维斯,著名的牛仔裤品牌
2020/08/20 全球购物
介绍一下write命令
2012/09/24 面试题
介绍一下JMS编程步骤
2015/09/22 面试题
毕业生的自我鉴定
2013/10/29 职场文书
毕业生如何写自荐信
2014/03/26 职场文书
小学数学课后反思
2014/04/23 职场文书
党员反对四风问题思想汇报
2014/09/12 职场文书
生产操作工岗位职责
2014/09/16 职场文书
2014年外联部工作总结
2014/11/17 职场文书
优秀班主任主要事迹材料
2014/12/16 职场文书
小学端午节活动总结
2015/02/11 职场文书
党校学习个人总结
2015/02/15 职场文书
如何写辞职书
2015/02/26 职场文书
python利用pandas分析学生期末成绩实例代码
2021/07/09 Python
Python 装饰器(decorator)常用的创建方式及解析
2022/04/24 Python