LRUCache的实现原理及利用python实现的方法


Posted in Python onNovember 21, 2017

简介

LRU(Least Recently Used)最近最少使用,最近有时间和空间最近的歧义,所以我更喜欢叫它近期最少使用算法。它的核心思想是,如果一个数据被访问过,我们有理由相信它在将来被访问的概率就越高。于是当LRU缓存达到设定的最大值时将缓存中近期最少使用的对象移除。LRUCache内部使用LinkedHashMap来存储key-value键值对,并将LinkedHashMap设置为访问顺序来体现LRU算法。

无论是对某个key的get,还是set都算做是对该key的一次使用。当set一个不存在的key,并且LRU Cache中key的数量超过cache size的时候,需要将使用时间距离现在最长的那个key从LRU Cache中清除。

LRU Cache实现

在Java中,LRUCache是通过LinkedHashMap实现的。鄙人照猫画虎,实现一个Python版的LRU Cache(可能和其他大神的实现有所区别)。

首先,需要说明的是:

LRU Cache对象内部会维护一个 双端循环链表 的 头节点

LRU Cache对象内部会维护一个dict

内部dict的value都是Entry对象,每个Entry对象包含:

  • key的hash_code(hash_code = hash(key),在本实现中,hash_code相同的不同key,会被当作一个key来处理。因此,对于自定义类,应该实现魔术方法:__hash__)
  • v - (key, value)对中的value
  • prev - 前一个对象
  • next - 后一个对象

具体实现是:

当从LRU Cache中get一个key的时候:

  • 计算该key的hash_code
  • 从内部dict中获取到entry
  • 将该entry移动到 双端循环链表 的 第一个位置
  • 返回entry.value

当向LRU Cache中set一个(key, value)对的时候:

计算该key的hash_code,

从LRU Cache的内部dict中,取出该hash_code对应的old_entry(可能不存在),然后根据(key, value)对生成一个new_entry,之后执行:

  • dict[hash_code] = new_entry
  • 将new_entry提到 双端循环链表 的第一个位置
  • 如果old_entry存在,则从链表中删除old_entry
  • 如果是新增了一个(key, value)对,并且cache中key的数量超过了cache size,那么将双端链表的最后一个元素删除(该元素就是那个最近最少被使用的元素),并且从内部dict中删除该元素

HashMap的实现原理

(面试过程中也经常会被问到):数组和链表组合成的链表散列结构,通过hash算法,尽量将数组中的数据分布均匀,如果hashcode相同再比较equals方法,如果equals方法返回false,那么就将数据以链表的形式存储在数组的对应位置,并将之前在该位置的数据往链表的后面移动,并记录一个next属性,来指示后移的那个数据。

注意:数组中保存的是entry(其中保存的是键值)

Python实现

class Entry:
 def __init__(self, hash_code, v, prev=None, next=None):
 self.hash_code = hash_code
 self.v = v
 self.prev = prev
 self.next = next

 def __str__(self):
 return "Entry{hash_code=%d, v=%s}" % (
  self.hash_code, self.v)
 __repr__ = __str__

class LRUCache:
 def __init__(self, max_size):
 self._max_size = max_size
 self._dict = dict()
 self._head = Entry(None, None)
 self._head.prev = self._head
 self._head.next = self._head

 def __setitem__(self, k, v):
 try:
  hash_code = hash(k)
 except TypeError:
  raise

 old_entry = self._dict.get(hash_code)
 new_entry = Entry(hash_code, v)
 self._dict[hash_code] = new_entry

 if old_entry:
  prev = old_entry.prev
  next = old_entry.next
  prev.next = next
  next.prev = prev

 head = self._head
 head_prev = self._head.prev
 head_next = self._head.next

 head.next = new_entry
 if head_prev is head:
  head.prev = new_entry
 head_next.prev = new_entry
 new_entry.prev = head
 new_entry.next = head_next

 if not old_entry and len(self._dict) > self._max_size:
  last_one = head.prev
  last_one.prev.next = head
  head.prev = last_one.prev
  self._dict.pop(last_one.hash_code)

 def __getitem__(self, k):
 entry = self._dict[hash(k)]
 head = self._head
 head_next = head.next
 prev = entry.prev
 next = entry.next

 if entry.prev is not head:
  if head.prev is entry:
  head.prev = prev
  head.next = entry

  head_next.prev = entry
  entry.prev = head
  entry.next = head_next

  prev.next = next
  next.prev = prev

 return entry.v

 def get_dict(self):
 return self._dict

if __name__ == "__main__":
 cache = LRUCache(2)
 inner_dict = cache.get_dict()

 cache[1] = 1
 assert inner_dict.keys() == [1], "test 1"
 cache[2] = 2
 assert sorted(inner_dict.keys()) == [1, 2], "test 2"
 cache[3] = 3
 assert sorted(inner_dict.keys()) == [2, 3], "test 3"
 cache[2]
 assert sorted(inner_dict.keys()) == [2, 3], "test 4"
 assert inner_dict[hash(2)].next.v == 3
 cache[4] = 4
 assert sorted(inner_dict.keys()) == [2, 4], "test 5"
 assert inner_dict[hash(4)].v == 4, "test 6"

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python获取指定网页上所有超链接的方法
Apr 04 Python
Python判断文件和文件夹是否存在的方法
May 21 Python
Python正则表达式教程之二:捕获篇
Mar 02 Python
利用python模拟sql语句对员工表格进行增删改查
Jul 05 Python
Python实现PS滤镜特效Marble Filter玻璃条纹扭曲效果示例
Jan 29 Python
Python实现判断并移除列表指定位置元素的方法
Apr 13 Python
使用Python机器学习降低静态日志噪声
Sep 29 Python
Python中flatten( )函数及函数用法详解
Nov 02 Python
利用Python+阿里云实现DDNS动态域名解析的方法
Apr 01 Python
Django获取该数据的上一条和下一条方法
Aug 12 Python
Python使用scrapy爬取阳光热线问政平台过程解析
Aug 14 Python
python实现会员管理系统
Mar 18 Python
Python利用itchat对微信中好友数据实现简单分析的方法
Nov 21 #Python
python中is与双等于号“==”的区别示例详解
Nov 21 #Python
Python使用PIL模块生成随机验证码
Nov 21 #Python
Python3中条件控制、循环与函数的简易教程
Nov 21 #Python
Python3 循环语句(for、while、break、range等)
Nov 20 #Python
Python虚拟环境项目实例
Nov 20 #Python
Python插件virtualenv搭建虚拟环境
Nov 20 #Python
You might like
php图片验证码代码
2008/03/27 PHP
基于empty函数的判断详解
2013/06/17 PHP
Yii入门教程之目录结构、入口文件及路由设置
2014/11/25 PHP
PHP MPDF中文乱码的解决方式
2015/12/08 PHP
PHP基于cookie与session统计网站访问量并输出显示的方法
2016/01/15 PHP
laravel Validator ajax返回错误信息的方法
2019/09/29 PHP
Code:loadScript( )加载js的功能函数
2007/02/02 Javascript
checkbox全选/取消全选以及checkbox遍历jQuery实现代码
2009/12/02 Javascript
jQuery插件expander实现图片翻转特效
2015/05/21 Javascript
JQUERY的AJAX请求缓存里的数据问题处理
2016/02/23 Javascript
聊一聊JS中this的指向问题
2016/06/17 Javascript
jQuery中Nicescroll滚动条插件的用法
2016/11/10 Javascript
Express + Session 实现登录验证功能
2017/09/08 Javascript
webpack打包并将文件加载到指定的位置方法
2018/02/22 Javascript
JsChart组件使用详解
2018/03/04 Javascript
nodejs实现一个word文档解析器思路详解
2018/08/14 NodeJs
在移动端使用vue-router和keep-alive的方法示例
2018/12/02 Javascript
Vue+Koa2 打包后进行线上部署的教程详解
2019/07/31 Javascript
JavaScript如何借用构造函数继承
2019/11/06 Javascript
vuex的数据渲染与修改浅析
2020/11/26 Vue.js
判断网页编码的方法python版
2016/08/12 Python
Python中标准模块importlib详解
2017/04/16 Python
Python设计实现的计算器功能完整实例
2017/08/18 Python
python版DDOS攻击脚本
2019/06/12 Python
python3.7将代码打包成exe程序并添加图标的方法
2019/10/11 Python
基于Django统计博客文章阅读量
2019/10/29 Python
python字符串的拼接方法总结
2019/11/18 Python
弄清Pytorch显存的分配机制
2020/12/10 Python
法国一家多品牌成衣精品中/高档商店:Graduate Store
2019/08/28 全球购物
优秀班主任主要事迹材料
2014/12/16 职场文书
不服劳动仲裁起诉书
2015/05/20 职场文书
教师节班会开场白
2015/06/01 职场文书
反腐倡廉影片观后感
2015/06/08 职场文书
python 调用js的四种方式
2021/04/11 Python
如何利用opencv判断两张图片是否相同详解
2021/07/07 Python
详解MySQL中timestamp和datetime时区问题导致做DTS遇到的坑
2021/12/06 MySQL