LRUCache的实现原理及利用python实现的方法


Posted in Python onNovember 21, 2017

简介

LRU(Least Recently Used)最近最少使用,最近有时间和空间最近的歧义,所以我更喜欢叫它近期最少使用算法。它的核心思想是,如果一个数据被访问过,我们有理由相信它在将来被访问的概率就越高。于是当LRU缓存达到设定的最大值时将缓存中近期最少使用的对象移除。LRUCache内部使用LinkedHashMap来存储key-value键值对,并将LinkedHashMap设置为访问顺序来体现LRU算法。

无论是对某个key的get,还是set都算做是对该key的一次使用。当set一个不存在的key,并且LRU Cache中key的数量超过cache size的时候,需要将使用时间距离现在最长的那个key从LRU Cache中清除。

LRU Cache实现

在Java中,LRUCache是通过LinkedHashMap实现的。鄙人照猫画虎,实现一个Python版的LRU Cache(可能和其他大神的实现有所区别)。

首先,需要说明的是:

LRU Cache对象内部会维护一个 双端循环链表 的 头节点

LRU Cache对象内部会维护一个dict

内部dict的value都是Entry对象,每个Entry对象包含:

  • key的hash_code(hash_code = hash(key),在本实现中,hash_code相同的不同key,会被当作一个key来处理。因此,对于自定义类,应该实现魔术方法:__hash__)
  • v - (key, value)对中的value
  • prev - 前一个对象
  • next - 后一个对象

具体实现是:

当从LRU Cache中get一个key的时候:

  • 计算该key的hash_code
  • 从内部dict中获取到entry
  • 将该entry移动到 双端循环链表 的 第一个位置
  • 返回entry.value

当向LRU Cache中set一个(key, value)对的时候:

计算该key的hash_code,

从LRU Cache的内部dict中,取出该hash_code对应的old_entry(可能不存在),然后根据(key, value)对生成一个new_entry,之后执行:

  • dict[hash_code] = new_entry
  • 将new_entry提到 双端循环链表 的第一个位置
  • 如果old_entry存在,则从链表中删除old_entry
  • 如果是新增了一个(key, value)对,并且cache中key的数量超过了cache size,那么将双端链表的最后一个元素删除(该元素就是那个最近最少被使用的元素),并且从内部dict中删除该元素

HashMap的实现原理

(面试过程中也经常会被问到):数组和链表组合成的链表散列结构,通过hash算法,尽量将数组中的数据分布均匀,如果hashcode相同再比较equals方法,如果equals方法返回false,那么就将数据以链表的形式存储在数组的对应位置,并将之前在该位置的数据往链表的后面移动,并记录一个next属性,来指示后移的那个数据。

注意:数组中保存的是entry(其中保存的是键值)

Python实现

class Entry:
 def __init__(self, hash_code, v, prev=None, next=None):
 self.hash_code = hash_code
 self.v = v
 self.prev = prev
 self.next = next

 def __str__(self):
 return "Entry{hash_code=%d, v=%s}" % (
  self.hash_code, self.v)
 __repr__ = __str__

class LRUCache:
 def __init__(self, max_size):
 self._max_size = max_size
 self._dict = dict()
 self._head = Entry(None, None)
 self._head.prev = self._head
 self._head.next = self._head

 def __setitem__(self, k, v):
 try:
  hash_code = hash(k)
 except TypeError:
  raise

 old_entry = self._dict.get(hash_code)
 new_entry = Entry(hash_code, v)
 self._dict[hash_code] = new_entry

 if old_entry:
  prev = old_entry.prev
  next = old_entry.next
  prev.next = next
  next.prev = prev

 head = self._head
 head_prev = self._head.prev
 head_next = self._head.next

 head.next = new_entry
 if head_prev is head:
  head.prev = new_entry
 head_next.prev = new_entry
 new_entry.prev = head
 new_entry.next = head_next

 if not old_entry and len(self._dict) > self._max_size:
  last_one = head.prev
  last_one.prev.next = head
  head.prev = last_one.prev
  self._dict.pop(last_one.hash_code)

 def __getitem__(self, k):
 entry = self._dict[hash(k)]
 head = self._head
 head_next = head.next
 prev = entry.prev
 next = entry.next

 if entry.prev is not head:
  if head.prev is entry:
  head.prev = prev
  head.next = entry

  head_next.prev = entry
  entry.prev = head
  entry.next = head_next

  prev.next = next
  next.prev = prev

 return entry.v

 def get_dict(self):
 return self._dict

if __name__ == "__main__":
 cache = LRUCache(2)
 inner_dict = cache.get_dict()

 cache[1] = 1
 assert inner_dict.keys() == [1], "test 1"
 cache[2] = 2
 assert sorted(inner_dict.keys()) == [1, 2], "test 2"
 cache[3] = 3
 assert sorted(inner_dict.keys()) == [2, 3], "test 3"
 cache[2]
 assert sorted(inner_dict.keys()) == [2, 3], "test 4"
 assert inner_dict[hash(2)].next.v == 3
 cache[4] = 4
 assert sorted(inner_dict.keys()) == [2, 4], "test 5"
 assert inner_dict[hash(4)].v == 4, "test 6"

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python中文乱码的解决方法
Nov 04 Python
python tensorflow学习之识别单张图片的实现的示例
Feb 09 Python
Python实现求两个数组交集的方法示例
Feb 23 Python
python使用pygame模块实现坦克大战游戏
Mar 25 Python
Python计算一个点到所有点的欧式距离实现方法
Jul 04 Python
python 处理微信对账单数据的实例代码
Jul 19 Python
pytorch 彩色图像转灰度图像实例
Jan 13 Python
python实现tail -f 功能
Jan 17 Python
python 字符串格式化的示例
Sep 21 Python
详解tensorflow之过拟合问题实战
Nov 01 Python
Pycharm配置lua编译环境过程图解
Nov 28 Python
pandas 数据类型转换的实现
Dec 29 Python
Python利用itchat对微信中好友数据实现简单分析的方法
Nov 21 #Python
python中is与双等于号“==”的区别示例详解
Nov 21 #Python
Python使用PIL模块生成随机验证码
Nov 21 #Python
Python3中条件控制、循环与函数的简易教程
Nov 21 #Python
Python3 循环语句(for、while、break、range等)
Nov 20 #Python
Python虚拟环境项目实例
Nov 20 #Python
Python插件virtualenv搭建虚拟环境
Nov 20 #Python
You might like
通过ODBC连接的SQL SERVER实例
2006/10/09 PHP
php中的curl_multi系列函数使用例子
2014/07/29 PHP
php获取CSS文件中图片地址并下载到本地的方法
2014/12/02 PHP
PHP解析RSS的方法
2015/03/05 PHP
PHP基于GD库实现的生成图片缩略图函数示例
2017/07/05 PHP
浅谈PHP进程管理
2019/03/08 PHP
php使用lua+redis实现限流,计数器模式,令牌桶模式
2019/04/04 PHP
20个非常有用的PHP类库 加速php开发
2010/01/15 Javascript
jquery设置控件位置的方法
2013/08/21 Javascript
js写的评论分页(还不错)
2013/12/23 Javascript
JavaScript+CSS实现的可折叠二级菜单实例
2016/02/29 Javascript
js插件Jcrop自定义截取图片功能
2016/10/14 Javascript
详解基于 Nuxt 的 Vue.js 服务端渲染实践
2017/10/24 Javascript
微信小程序常用简易小函数总结
2019/02/01 Javascript
三步实现ionic3点击退出app程序
2019/09/17 Javascript
处理JavaScript值为undefined的7个小技巧
2020/07/28 Javascript
[00:39]DOTA2上海特级锦标赛 Liquid战队宣传片
2016/03/04 DOTA
Python 文件读写操作实例详解
2014/03/12 Python
numpy.random.seed()的使用实例解析
2018/02/03 Python
python内置数据类型之列表操作
2018/11/12 Python
Windows10下 python3.7 安装 facenet的教程
2019/09/10 Python
Python箱型图绘制与特征值获取过程解析
2019/10/22 Python
Python 使用threading+Queue实现线程池示例
2019/12/21 Python
Python3如何在Windows和Linux上打包
2020/02/25 Python
PYQT5 vscode联合操作qtdesigner的方法
2020/03/24 Python
matplotlib自定义鼠标光标坐标格式的实现
2021/01/08 Python
css3实现的多级渐变下拉菜单导航效果代码
2015/08/31 HTML / CSS
Boom手表官网:瑞典手表品牌,设计你的手表
2019/03/11 全球购物
党的群众路线教育实践活动动员会主持词
2014/03/20 职场文书
《爱如茉莉》教后反思
2014/04/12 职场文书
学校安全管理责任书
2014/07/23 职场文书
2015年人民调解工作总结
2015/05/18 职场文书
2015年小学生国庆节演讲稿
2015/07/30 职场文书
Redis如何一键部署脚本
2021/04/12 Redis
详解前端任务构建利器Gulp.js使用指南
2021/04/30 Javascript
Golang ort 中的sortInts 方法
2022/04/24 Golang