Python实现以时间换空间的缓存替换算法


Posted in Python onFebruary 19, 2016

缓存是指可以进行高速数据交换的存储器,它先于内存与CPU交换数据,因此速度很快。缓存就是把一些数据暂时存放于某些地方,可能是内存,也有可能硬盘。

在使用Scrapy爬网站的时候,产生出来的附加产物,因为在Scrapy爬取的时候,CPU的运行时间紧迫度不高(访问频次太高容易被封禁),借此机会难得来上一下,让自己的内存解放一下。

算法原理:

通过将要缓存的数据用二进制展开,得到的二进制数据映射到缓存字段上,要检验是否已经缓存过,仅需要去查找对应的映射位置即可,如果全部匹配上,则已经缓存。

# 二进制就是个二叉树
# 如下面可以表示出来的数据有0, 1, 2, 3四个(两个树独立)

0 1
/ \ / \
0 1 0 1

因此对缓存的操作就转化为对二叉树的操作,添加和查找只要在二叉树上找到对应路径的node即可。

算法关键代码:

def _read_bit(self, data, position):
return (data >> position) & 0x1
def _write_bit(self, data, position, value):
return data | value << position

实际使用效果如何呢?

在和Python默认的 set 相比较,得出测试结果如下(存取整型,不定长字符串,定长字符串):

Please select test mode:4
Please enter test times:1000
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.0 0.0209999084473
read(s) 0.0 0.0149998664856
hits 1000 1000
missed 0 0
size 32992 56
add(s/item) 0.0 2.09999084473e-05
read(s/item) 0.0 2.09999084473e-05
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): N/A
read time (bytecache / set): N/A
====================================================================================================
...test fixed length & int data end...
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.00100016593933 6.1740000248
read(s) 0.0 7.21300005913
hits 999 999
missed 0 0
size 32992 56
add(s/item) 1.00016593933e-06 0.0061740000248
read(s/item) 0.0 0.0061740000248
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): 6172.97568534
read time (bytecache / set): N/A
====================================================================================================
...test mutative length & string data end...
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.0 0.513999938965
read(s) 0.0 0.421000003815
hits 999 999
missed 0 0
size 32992 56
add(s/item) 0.0 0.000513999938965
read(s/item) 0.0 0.000513999938965
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): N/A
read time (bytecache / set): N/A
====================================================================================================
...test Fixed length(64) & string data end...

测试下来,内存消耗控制的比较好,一直在56字节,而是用 set 的内存虽然也不是很大,当相较于 ByteCache 来说,则大上很多。

但 ByteCache 的方式来缓存,最大的问题是当碰到非常大的随机数据时,消耗时间会比较惊人。如下面这种随机长度的字符串缓存测试结果:

Please select test mode:2
Please enter test times:2000
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 2000 2000
add(s) 0.00400018692017 31.3759999275
read(s) 0.0 44.251999855
hits 1999 1999
missed 0 0
size 131296 56
add(s/item) 2.00009346008e-06 0.0156879999638
read(s/item) 0.0 0.0156879999638
====================================================================================================
size (set / bytecache): 2344.57142857
add time (bytecache / set): 7843.63344856
read time (bytecache / set): N/A
====================================================================================================
...test mutative length & string data end...

在2000个数据中,添加消耗31s,查找消耗44s,而 set 接近于0,单条数据也需要16ms(均值)才能完成读/写操作。

不过,正如开头说的,在紧迫度不是很高的Scrapy中,这个时间并不会太过于窘迫,更何况在Scrapy中,一般是用来缓存哈希后的数据,这些数据的一个重要特性是定长,定长在本缓存算法中还是表现不错的,在64位长度的时候,均值才0.5ms。而与此同时倒是能在大量缓存的时候,释放出比较客观的内存。

如果有更好的缓存算法能让速度在上新台阶,也是无比期待的。。。

总结:

1. 此方法的目标是用时间换取空间,切勿在时间紧迫度高的地方使用

2. 非常适用于大量定长,且数据本身比较小的情况下使用

3. 接2,非常不建议在大量不定长的数据,而且数据本身比较大的情况下使用

以上内容是小编给大家介绍的Python实现以时间换空间的缓存替换算法,希望对大家有所帮助!

Python 相关文章推荐
python中去空格函数的用法
Aug 21 Python
Python map和reduce函数用法示例
Feb 26 Python
浅谈Python中用datetime包进行对时间的一些操作
Jun 23 Python
python数据结构链表之单向链表(实例讲解)
Jul 25 Python
Python使用min、max函数查找二维数据矩阵中最小、最大值的方法
May 15 Python
和孩子一起学习python之变量命名规则
May 27 Python
python3.4实现邮件发送功能
May 28 Python
Python3编码问题 Unicode utf-8 bytes互转方法
Oct 26 Python
利用Python脚本实现自动刷网课
Feb 03 Python
在pycharm中为项目导入anacodna环境的操作方法
Feb 12 Python
TensorFlow实现批量归一化操作的示例
Apr 22 Python
如何将json数据转换为python数据
Sep 04 Python
Python使用爬虫猜密码
Feb 19 #Python
使用Python简单的实现树莓派的WEB控制
Feb 18 #Python
在Ubuntu系统下安装使用Python的GUI工具wxPython
Feb 18 #Python
以一个投票程序的实例来讲解Python的Django框架使用
Feb 18 #Python
使用Python生成随机密码的示例分享
Feb 18 #Python
使用Python的urllib2模块处理url和图片的技巧两则
Feb 18 #Python
讲解Python的Scrapy爬虫框架使用代理进行采集的方法
Feb 18 #Python
You might like
PHP简单系统查询模块代码打包下载
2008/06/07 PHP
jQuery+Ajax+PHP“喜欢”评级功能实现代码
2015/10/08 PHP
php打包压缩文件之ZipArchive方法用法分析
2016/04/30 PHP
使用php实现网站验证码功能【推荐】
2017/02/09 PHP
JS 控制非法字符的输入代码
2009/12/04 Javascript
javascript 折半查找字符在数组中的位置(有序列表)
2010/12/09 Javascript
jquery中的$(document).ready()使用小结
2014/02/14 Javascript
Extjs 4.x 得到form CheckBox 复选框的值
2014/05/04 Javascript
Node.js开发之访问Redis数据库教程
2015/01/14 Javascript
js判断子窗体是否关闭的方法
2015/08/11 Javascript
jQuery实现自动切换播放的经典滑动门效果
2015/09/12 Javascript
基于jquery实现复选框全选,反选,全不选等功能
2015/10/16 Javascript
谈谈Jquery ajax中success和complete有哪些不同点
2015/11/20 Javascript
JavaScript开发Chrome浏览器扩展程序UI的教程
2016/05/16 Javascript
Angular实现下拉框模糊查询功能示例
2018/01/03 Javascript
angularJs-$http实现百度搜索时的动态下拉框示例
2018/02/27 Javascript
d3.js实现自定义多y轴折线图的示例代码
2018/05/30 Javascript
VUE预渲染及遇到的坑
2018/09/03 Javascript
CentOS7中源码编译安装NodeJS的完整步骤
2018/10/13 NodeJs
nodeJs项目在阿里云的简单部署
2020/11/27 NodeJs
Win7下Python与Tensorflow-CPU版开发环境的安装与配置过程
2018/01/04 Python
python print 按逗号或空格分隔的方法
2018/05/02 Python
python利用smtplib实现QQ邮箱发送邮件
2020/05/20 Python
Python 3.8新特征之asyncio REPL
2019/05/28 Python
英国人最爱的饰品网站:Accessorize
2016/08/22 全球购物
机械专业应届生求职信
2013/09/21 职场文书
医院护理人员的自我评价分享
2013/10/04 职场文书
擅自离岗检讨书
2014/02/11 职场文书
毕业生简历自我评价范文
2014/04/09 职场文书
计划生育工作汇报
2014/10/28 职场文书
会计出纳岗位职责
2015/03/31 职场文书
入党积极分子党小组意见
2015/06/02 职场文书
2016年春季开学典礼新闻稿
2015/11/25 职场文书
建筑工程挂靠协议书
2016/03/23 职场文书
100句拼搏进取的名言警句,值得一读!
2019/10/07 职场文书
volatile保证可见性及重排序方法
2022/08/05 Java/Android