Python实现以时间换空间的缓存替换算法


Posted in Python onFebruary 19, 2016

缓存是指可以进行高速数据交换的存储器,它先于内存与CPU交换数据,因此速度很快。缓存就是把一些数据暂时存放于某些地方,可能是内存,也有可能硬盘。

在使用Scrapy爬网站的时候,产生出来的附加产物,因为在Scrapy爬取的时候,CPU的运行时间紧迫度不高(访问频次太高容易被封禁),借此机会难得来上一下,让自己的内存解放一下。

算法原理:

通过将要缓存的数据用二进制展开,得到的二进制数据映射到缓存字段上,要检验是否已经缓存过,仅需要去查找对应的映射位置即可,如果全部匹配上,则已经缓存。

# 二进制就是个二叉树
# 如下面可以表示出来的数据有0, 1, 2, 3四个(两个树独立)

0 1
/ \ / \
0 1 0 1

因此对缓存的操作就转化为对二叉树的操作,添加和查找只要在二叉树上找到对应路径的node即可。

算法关键代码:

def _read_bit(self, data, position):
return (data >> position) & 0x1
def _write_bit(self, data, position, value):
return data | value << position

实际使用效果如何呢?

在和Python默认的 set 相比较,得出测试结果如下(存取整型,不定长字符串,定长字符串):

Please select test mode:4
Please enter test times:1000
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.0 0.0209999084473
read(s) 0.0 0.0149998664856
hits 1000 1000
missed 0 0
size 32992 56
add(s/item) 0.0 2.09999084473e-05
read(s/item) 0.0 2.09999084473e-05
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): N/A
read time (bytecache / set): N/A
====================================================================================================
...test fixed length & int data end...
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.00100016593933 6.1740000248
read(s) 0.0 7.21300005913
hits 999 999
missed 0 0
size 32992 56
add(s/item) 1.00016593933e-06 0.0061740000248
read(s/item) 0.0 0.0061740000248
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): 6172.97568534
read time (bytecache / set): N/A
====================================================================================================
...test mutative length & string data end...
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.0 0.513999938965
read(s) 0.0 0.421000003815
hits 999 999
missed 0 0
size 32992 56
add(s/item) 0.0 0.000513999938965
read(s/item) 0.0 0.000513999938965
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): N/A
read time (bytecache / set): N/A
====================================================================================================
...test Fixed length(64) & string data end...

测试下来,内存消耗控制的比较好,一直在56字节,而是用 set 的内存虽然也不是很大,当相较于 ByteCache 来说,则大上很多。

但 ByteCache 的方式来缓存,最大的问题是当碰到非常大的随机数据时,消耗时间会比较惊人。如下面这种随机长度的字符串缓存测试结果:

Please select test mode:2
Please enter test times:2000
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 2000 2000
add(s) 0.00400018692017 31.3759999275
read(s) 0.0 44.251999855
hits 1999 1999
missed 0 0
size 131296 56
add(s/item) 2.00009346008e-06 0.0156879999638
read(s/item) 0.0 0.0156879999638
====================================================================================================
size (set / bytecache): 2344.57142857
add time (bytecache / set): 7843.63344856
read time (bytecache / set): N/A
====================================================================================================
...test mutative length & string data end...

在2000个数据中,添加消耗31s,查找消耗44s,而 set 接近于0,单条数据也需要16ms(均值)才能完成读/写操作。

不过,正如开头说的,在紧迫度不是很高的Scrapy中,这个时间并不会太过于窘迫,更何况在Scrapy中,一般是用来缓存哈希后的数据,这些数据的一个重要特性是定长,定长在本缓存算法中还是表现不错的,在64位长度的时候,均值才0.5ms。而与此同时倒是能在大量缓存的时候,释放出比较客观的内存。

如果有更好的缓存算法能让速度在上新台阶,也是无比期待的。。。

总结:

1. 此方法的目标是用时间换取空间,切勿在时间紧迫度高的地方使用

2. 非常适用于大量定长,且数据本身比较小的情况下使用

3. 接2,非常不建议在大量不定长的数据,而且数据本身比较大的情况下使用

以上内容是小编给大家介绍的Python实现以时间换空间的缓存替换算法,希望对大家有所帮助!

Python 相关文章推荐
把大数据数字口语化(python与js)两种实现
Feb 21 Python
python 实现删除文件或文件夹实例详解
Dec 04 Python
python实现决策树分类算法
Dec 21 Python
Linux系统(CentOS)下python2.7.10安装
Sep 26 Python
浅谈python3发送post请求参数为空的情况
Dec 28 Python
对Python w和w+权限的区别详解
Jan 23 Python
对python:threading.Thread类的使用方法详解
Jan 31 Python
详解python中TCP协议中的粘包问题
Mar 22 Python
如何使用pyinstaller打包32位的exe程序
May 26 Python
利用python numpy+matplotlib绘制股票k线图的方法
Jun 26 Python
Django中的FBV和CBV用法详解
Sep 15 Python
python 邮件检测工具mmpi的使用
Jan 04 Python
Python使用爬虫猜密码
Feb 19 #Python
使用Python简单的实现树莓派的WEB控制
Feb 18 #Python
在Ubuntu系统下安装使用Python的GUI工具wxPython
Feb 18 #Python
以一个投票程序的实例来讲解Python的Django框架使用
Feb 18 #Python
使用Python生成随机密码的示例分享
Feb 18 #Python
使用Python的urllib2模块处理url和图片的技巧两则
Feb 18 #Python
讲解Python的Scrapy爬虫框架使用代理进行采集的方法
Feb 18 #Python
You might like
精美漂亮的php分页类代码
2013/04/02 PHP
php实现短信发送代码
2015/07/05 PHP
laravel如何开启跨域功能示例详解
2017/08/31 PHP
javascript 传统事件模型构造的事件监听器实现代码
2010/05/31 Javascript
jquery和javascript的区别(常用方法比较)
2013/07/04 Javascript
TinyMCE提交AjaxForm获取不到数据的解决方法
2015/03/05 Javascript
javascript实现状态栏中文字动态显示的方法
2015/10/20 Javascript
jQuery ajax时间差导致的变量赋值问题分析
2016/01/22 Javascript
jQuery禁用快捷键例如禁用F5刷新 禁用右键菜单等的简单实现
2016/08/31 Javascript
微信公众号 客服接口的开发实例详解
2016/09/28 Javascript
javascript+html5+css3自定义提示窗口
2017/06/21 Javascript
简述jQuery Easyui一些用法
2017/08/01 jQuery
使用jQuery实现两个div中按钮互换位置的实例代码
2017/09/21 jQuery
Node.js EventEmmitter事件监听器用法实例分析
2019/01/07 Javascript
nodejs微信开发之自动回复的实现
2019/03/17 NodeJs
微信小程序访问豆瓣电影api的实现方法
2019/03/31 Javascript
为nuxt项目写一个面包屑cli工具实现自动生成页面与面包屑配置
2019/09/29 Javascript
vue实现表单未编辑或未保存离开弹窗提示功能
2020/04/08 Javascript
vue如何搭建多页面多系统应用
2020/06/17 Javascript
Python for Informatics 第11章 正则表达式(一)
2016/04/21 Python
python实现微信跳一跳辅助工具步骤详解
2018/01/04 Python
Django框架多表查询实例分析
2018/07/04 Python
pytorch自定义初始化权重的方法
2019/08/17 Python
Python生成六万个随机,唯一的8位数字和数字组成的随机字符串实例
2020/03/03 Python
python3.4中清屏的处理方法
2020/07/06 Python
css背景图片的背景裁切、背景透明度、背景变换等效果运用
2012/12/24 HTML / CSS
俄罗斯在线购买飞机票、火车票、巴士票网站:Tutu.ru
2020/03/16 全球购物
入党自我评价优缺点
2014/01/25 职场文书
书香校园活动方案
2014/02/28 职场文书
四年级评语大全
2014/04/21 职场文书
公司委托书怎么写
2014/08/02 职场文书
党的群众路线教育实践活动制度建设计划
2014/11/03 职场文书
小学生表扬稿范文
2015/05/05 职场文书
任命书格式范文
2015/09/22 职场文书
2016年公务员六五普法心得体会
2016/01/21 职场文书
P站美图推荐——变身女主角特辑
2022/03/20 日漫