LRUCache的实现原理及利用python实现的方法


Posted in Python onNovember 21, 2017

简介

LRU(Least Recently Used)最近最少使用,最近有时间和空间最近的歧义,所以我更喜欢叫它近期最少使用算法。它的核心思想是,如果一个数据被访问过,我们有理由相信它在将来被访问的概率就越高。于是当LRU缓存达到设定的最大值时将缓存中近期最少使用的对象移除。LRUCache内部使用LinkedHashMap来存储key-value键值对,并将LinkedHashMap设置为访问顺序来体现LRU算法。

无论是对某个key的get,还是set都算做是对该key的一次使用。当set一个不存在的key,并且LRU Cache中key的数量超过cache size的时候,需要将使用时间距离现在最长的那个key从LRU Cache中清除。

LRU Cache实现

在Java中,LRUCache是通过LinkedHashMap实现的。鄙人照猫画虎,实现一个Python版的LRU Cache(可能和其他大神的实现有所区别)。

首先,需要说明的是:

LRU Cache对象内部会维护一个 双端循环链表 的 头节点

LRU Cache对象内部会维护一个dict

内部dict的value都是Entry对象,每个Entry对象包含:

  • key的hash_code(hash_code = hash(key),在本实现中,hash_code相同的不同key,会被当作一个key来处理。因此,对于自定义类,应该实现魔术方法:__hash__)
  • v - (key, value)对中的value
  • prev - 前一个对象
  • next - 后一个对象

具体实现是:

当从LRU Cache中get一个key的时候:

  • 计算该key的hash_code
  • 从内部dict中获取到entry
  • 将该entry移动到 双端循环链表 的 第一个位置
  • 返回entry.value

当向LRU Cache中set一个(key, value)对的时候:

计算该key的hash_code,

从LRU Cache的内部dict中,取出该hash_code对应的old_entry(可能不存在),然后根据(key, value)对生成一个new_entry,之后执行:

  • dict[hash_code] = new_entry
  • 将new_entry提到 双端循环链表 的第一个位置
  • 如果old_entry存在,则从链表中删除old_entry
  • 如果是新增了一个(key, value)对,并且cache中key的数量超过了cache size,那么将双端链表的最后一个元素删除(该元素就是那个最近最少被使用的元素),并且从内部dict中删除该元素

HashMap的实现原理

(面试过程中也经常会被问到):数组和链表组合成的链表散列结构,通过hash算法,尽量将数组中的数据分布均匀,如果hashcode相同再比较equals方法,如果equals方法返回false,那么就将数据以链表的形式存储在数组的对应位置,并将之前在该位置的数据往链表的后面移动,并记录一个next属性,来指示后移的那个数据。

注意:数组中保存的是entry(其中保存的是键值)

Python实现

class Entry:
 def __init__(self, hash_code, v, prev=None, next=None):
 self.hash_code = hash_code
 self.v = v
 self.prev = prev
 self.next = next

 def __str__(self):
 return "Entry{hash_code=%d, v=%s}" % (
  self.hash_code, self.v)
 __repr__ = __str__

class LRUCache:
 def __init__(self, max_size):
 self._max_size = max_size
 self._dict = dict()
 self._head = Entry(None, None)
 self._head.prev = self._head
 self._head.next = self._head

 def __setitem__(self, k, v):
 try:
  hash_code = hash(k)
 except TypeError:
  raise

 old_entry = self._dict.get(hash_code)
 new_entry = Entry(hash_code, v)
 self._dict[hash_code] = new_entry

 if old_entry:
  prev = old_entry.prev
  next = old_entry.next
  prev.next = next
  next.prev = prev

 head = self._head
 head_prev = self._head.prev
 head_next = self._head.next

 head.next = new_entry
 if head_prev is head:
  head.prev = new_entry
 head_next.prev = new_entry
 new_entry.prev = head
 new_entry.next = head_next

 if not old_entry and len(self._dict) > self._max_size:
  last_one = head.prev
  last_one.prev.next = head
  head.prev = last_one.prev
  self._dict.pop(last_one.hash_code)

 def __getitem__(self, k):
 entry = self._dict[hash(k)]
 head = self._head
 head_next = head.next
 prev = entry.prev
 next = entry.next

 if entry.prev is not head:
  if head.prev is entry:
  head.prev = prev
  head.next = entry

  head_next.prev = entry
  entry.prev = head
  entry.next = head_next

  prev.next = next
  next.prev = prev

 return entry.v

 def get_dict(self):
 return self._dict

if __name__ == "__main__":
 cache = LRUCache(2)
 inner_dict = cache.get_dict()

 cache[1] = 1
 assert inner_dict.keys() == [1], "test 1"
 cache[2] = 2
 assert sorted(inner_dict.keys()) == [1, 2], "test 2"
 cache[3] = 3
 assert sorted(inner_dict.keys()) == [2, 3], "test 3"
 cache[2]
 assert sorted(inner_dict.keys()) == [2, 3], "test 4"
 assert inner_dict[hash(2)].next.v == 3
 cache[4] = 4
 assert sorted(inner_dict.keys()) == [2, 4], "test 5"
 assert inner_dict[hash(4)].v == 4, "test 6"

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python多线程编程方式分析示例详解
Dec 06 Python
初步讲解Python中的元组概念
May 21 Python
Python Paramiko模块的安装与使用详解
Nov 18 Python
详解python之简单主机批量管理工具
Jan 27 Python
python list排序的两种方法及实例讲解
Mar 20 Python
详解flask表单提交的两种方式
Jul 21 Python
pygame实现非图片按钮效果
Oct 29 Python
Python 读取WAV音频文件 画频谱的实例
Mar 14 Python
python实现简单贪吃蛇游戏
Sep 29 Python
Sublime Text3最新激活注册码分享适用2020最新版 亲测可用
Nov 12 Python
python搜索算法原理及实例讲解
Nov 18 Python
python库sklearn常用操作
Aug 23 Python
Python利用itchat对微信中好友数据实现简单分析的方法
Nov 21 #Python
python中is与双等于号“==”的区别示例详解
Nov 21 #Python
Python使用PIL模块生成随机验证码
Nov 21 #Python
Python3中条件控制、循环与函数的简易教程
Nov 21 #Python
Python3 循环语句(for、while、break、range等)
Nov 20 #Python
Python虚拟环境项目实例
Nov 20 #Python
Python插件virtualenv搭建虚拟环境
Nov 20 #Python
You might like
按上下级层次关系输出内容的PHP代码
2010/07/17 PHP
thinkphp判断访客为手机端或PC端的方法
2014/11/24 PHP
php通过会话控制实现身份验证实例
2016/10/18 PHP
php封装的smarty类完整实例
2016/10/19 PHP
通过DOM脚本去设置样式信息
2010/09/19 Javascript
js弹出层之1:JQuery.Boxy (二)
2011/10/06 Javascript
JS、jquery实现几分钟前、几小时前、几天前等时间差显示效果的代码实例分享
2014/04/11 Javascript
鼠标左键单击冲突的问题解决方法(防止冒泡)
2014/05/14 Javascript
使用phantomjs进行网页抓取的实现代码
2014/09/29 Javascript
jQuery实现的动态伸缩导航菜单实例
2015/05/07 Javascript
javascript获取select值的方法分析
2015/07/02 Javascript
JavaScript过滤字符串中的中文与空格方法汇总
2016/03/07 Javascript
关于vue.js发布后路径引用的问题解决
2017/08/15 Javascript
Node.JS中快速扫描端口并发现局域网内的Web服务器地址(80)
2017/09/18 Javascript
深入理解移动前端开发之viewport
2018/10/19 Javascript
Vue + ts实现轮播插件的示例
2020/11/10 Javascript
three.js显示中文字体与tween应用详析
2021/01/04 Javascript
[07:57]DOTA2热力大趴狂欢夜 广州站活动回顾
2013/11/27 DOTA
[55:25]2018DOTA2亚洲邀请赛3月29日 小组赛A组 VG VS OG
2018/03/30 DOTA
python中的字典详细介绍
2014/09/18 Python
python从入门到精通(DAY 2)
2015/12/20 Python
Python实现FTP上传文件或文件夹实例(递归)
2017/01/16 Python
Python实现简易Web爬虫详解
2018/01/03 Python
公司新年寄语
2014/04/04 职场文书
环保倡议书怎么写
2014/05/16 职场文书
优秀教师先进个人事迹材料
2014/08/31 职场文书
纪念九一八事变演讲稿:青少年应树立远大理想
2014/09/14 职场文书
2014年十一国庆节活动方案
2014/09/16 职场文书
教师党员先进性教育自我剖析材料思想汇报
2014/09/24 职场文书
2014年乡镇党建工作总结
2014/11/11 职场文书
2014年图书管理员工作总结
2014/12/01 职场文书
2014年幼儿园老师工作总结
2014/12/05 职场文书
德能勤绩工作总结
2015/08/11 职场文书
《海上日出》教学反思
2016/02/23 职场文书
Python Pandas pandas.read_sql_query函数实例用法分析
2021/06/21 Python
四十九个javascript小知识实用技巧
2021/11/20 Javascript