Python实现以时间换空间的缓存替换算法


Posted in Python onFebruary 19, 2016

缓存是指可以进行高速数据交换的存储器,它先于内存与CPU交换数据,因此速度很快。缓存就是把一些数据暂时存放于某些地方,可能是内存,也有可能硬盘。

在使用Scrapy爬网站的时候,产生出来的附加产物,因为在Scrapy爬取的时候,CPU的运行时间紧迫度不高(访问频次太高容易被封禁),借此机会难得来上一下,让自己的内存解放一下。

算法原理:

通过将要缓存的数据用二进制展开,得到的二进制数据映射到缓存字段上,要检验是否已经缓存过,仅需要去查找对应的映射位置即可,如果全部匹配上,则已经缓存。

# 二进制就是个二叉树
# 如下面可以表示出来的数据有0, 1, 2, 3四个(两个树独立)

0 1
/ \ / \
0 1 0 1

因此对缓存的操作就转化为对二叉树的操作,添加和查找只要在二叉树上找到对应路径的node即可。

算法关键代码:

def _read_bit(self, data, position):
return (data >> position) & 0x1
def _write_bit(self, data, position, value):
return data | value << position

实际使用效果如何呢?

在和Python默认的 set 相比较,得出测试结果如下(存取整型,不定长字符串,定长字符串):

Please select test mode:4
Please enter test times:1000
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.0 0.0209999084473
read(s) 0.0 0.0149998664856
hits 1000 1000
missed 0 0
size 32992 56
add(s/item) 0.0 2.09999084473e-05
read(s/item) 0.0 2.09999084473e-05
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): N/A
read time (bytecache / set): N/A
====================================================================================================
...test fixed length & int data end...
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.00100016593933 6.1740000248
read(s) 0.0 7.21300005913
hits 999 999
missed 0 0
size 32992 56
add(s/item) 1.00016593933e-06 0.0061740000248
read(s/item) 0.0 0.0061740000248
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): 6172.97568534
read time (bytecache / set): N/A
====================================================================================================
...test mutative length & string data end...
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.0 0.513999938965
read(s) 0.0 0.421000003815
hits 999 999
missed 0 0
size 32992 56
add(s/item) 0.0 0.000513999938965
read(s/item) 0.0 0.000513999938965
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): N/A
read time (bytecache / set): N/A
====================================================================================================
...test Fixed length(64) & string data end...

测试下来,内存消耗控制的比较好,一直在56字节,而是用 set 的内存虽然也不是很大,当相较于 ByteCache 来说,则大上很多。

但 ByteCache 的方式来缓存,最大的问题是当碰到非常大的随机数据时,消耗时间会比较惊人。如下面这种随机长度的字符串缓存测试结果:

Please select test mode:2
Please enter test times:2000
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 2000 2000
add(s) 0.00400018692017 31.3759999275
read(s) 0.0 44.251999855
hits 1999 1999
missed 0 0
size 131296 56
add(s/item) 2.00009346008e-06 0.0156879999638
read(s/item) 0.0 0.0156879999638
====================================================================================================
size (set / bytecache): 2344.57142857
add time (bytecache / set): 7843.63344856
read time (bytecache / set): N/A
====================================================================================================
...test mutative length & string data end...

在2000个数据中,添加消耗31s,查找消耗44s,而 set 接近于0,单条数据也需要16ms(均值)才能完成读/写操作。

不过,正如开头说的,在紧迫度不是很高的Scrapy中,这个时间并不会太过于窘迫,更何况在Scrapy中,一般是用来缓存哈希后的数据,这些数据的一个重要特性是定长,定长在本缓存算法中还是表现不错的,在64位长度的时候,均值才0.5ms。而与此同时倒是能在大量缓存的时候,释放出比较客观的内存。

如果有更好的缓存算法能让速度在上新台阶,也是无比期待的。。。

总结:

1. 此方法的目标是用时间换取空间,切勿在时间紧迫度高的地方使用

2. 非常适用于大量定长,且数据本身比较小的情况下使用

3. 接2,非常不建议在大量不定长的数据,而且数据本身比较大的情况下使用

以上内容是小编给大家介绍的Python实现以时间换空间的缓存替换算法,希望对大家有所帮助!

Python 相关文章推荐
python类定义的讲解
Nov 01 Python
Python中的yield浅析
Jun 16 Python
python调用Moxa PCOMM Lite通过串口Ymodem协议实现发送文件
Aug 15 Python
Python创建xml的方法
Mar 10 Python
简单学习Python time模块
Apr 29 Python
Python采用Django制作简易的知乎日报API
Aug 03 Python
Django网络框架之HelloDjango项目创建教程
Jun 06 Python
python统计指定目录内文件的代码行数
Sep 19 Python
Python Tensor FLow简单使用方法实例详解
Jan 14 Python
构建高效的python requests长连接池详解
May 02 Python
python 实现aes256加密
Nov 27 Python
Python 机器学习工具包SKlearn的安装与使用
May 14 Python
Python使用爬虫猜密码
Feb 19 #Python
使用Python简单的实现树莓派的WEB控制
Feb 18 #Python
在Ubuntu系统下安装使用Python的GUI工具wxPython
Feb 18 #Python
以一个投票程序的实例来讲解Python的Django框架使用
Feb 18 #Python
使用Python生成随机密码的示例分享
Feb 18 #Python
使用Python的urllib2模块处理url和图片的技巧两则
Feb 18 #Python
讲解Python的Scrapy爬虫框架使用代理进行采集的方法
Feb 18 #Python
You might like
用php获取远程图片并把它保存到本地的代码
2008/04/07 PHP
php SQL防注入代码集合
2008/04/25 PHP
使用PHP 5.0创建图形的巧妙方法
2010/10/12 PHP
做了CDN获取用户真实IP的函数代码(PHP与Asp设置方式)
2013/04/13 PHP
浅谈php优化需要注意的地方
2014/11/27 PHP
PHP实现XML与数据格式进行转换类实例
2015/07/29 PHP
WordPress主题制作之模板文件的引入方法
2015/12/28 PHP
jQuery的一些特性和用法整理小结
2010/01/13 Javascript
JavaScript中函数声明优先于变量声明的实例分析
2012/03/01 Javascript
jQuery获取浏览器中的分辨率实现代码
2013/04/23 Javascript
浅谈JavaScript 框架分类
2014/11/10 Javascript
函数window.open实现关闭所有的子窗口
2015/08/03 Javascript
Javascript中Date类型和Math类型详解
2016/02/27 Javascript
vue实现ajax滚动下拉加载,同时具有loading效果(推荐)
2017/01/11 Javascript
js与jQuery实现获取table中的数据并拼成json字符串操作示例
2018/07/12 jQuery
前后端如何实现登录token拦截校验详解
2018/09/03 Javascript
[04:27]DOTA2官方论坛水友赛集锦
2013/09/16 DOTA
Python操作使用MySQL数据库的实例代码
2017/05/25 Python
Python实现简单生成验证码功能【基于random模块】
2018/02/10 Python
Python读取excel中的图片完美解决方法
2018/07/27 Python
Python 输入一个数字判断成绩分数等级的方法
2018/11/15 Python
Django ManyToManyField 跨越中间表查询的方法
2018/12/18 Python
对python中矩阵相加函数sum()的使用详解
2019/01/28 Python
在Tensorflow中实现梯度下降法更新参数值
2020/01/23 Python
python上selenium的弹框操作实现
2020/07/13 Python
Roots加拿大官网:加拿大休闲服饰品牌
2016/10/24 全球购物
Nixon手表英国官网:美国尼克松手表品牌
2020/02/10 全球购物
颇特女士香港官网:NET-A-PORTER香港
2021/03/08 全球购物
迟到检讨书400字
2014/01/13 职场文书
农业局党的群众路线教育实践活动整改方案
2014/09/20 职场文书
2014年小学教师工作自我评价
2014/09/22 职场文书
团组织推优材料
2014/12/29 职场文书
英语复习计划
2015/01/19 职场文书
幼儿园校车安全责任书
2015/05/08 职场文书
观看焦裕禄观后感
2015/06/09 职场文书
Python编写nmap扫描工具
2021/07/21 Python