Python实现以时间换空间的缓存替换算法


Posted in Python onFebruary 19, 2016

缓存是指可以进行高速数据交换的存储器,它先于内存与CPU交换数据,因此速度很快。缓存就是把一些数据暂时存放于某些地方,可能是内存,也有可能硬盘。

在使用Scrapy爬网站的时候,产生出来的附加产物,因为在Scrapy爬取的时候,CPU的运行时间紧迫度不高(访问频次太高容易被封禁),借此机会难得来上一下,让自己的内存解放一下。

算法原理:

通过将要缓存的数据用二进制展开,得到的二进制数据映射到缓存字段上,要检验是否已经缓存过,仅需要去查找对应的映射位置即可,如果全部匹配上,则已经缓存。

# 二进制就是个二叉树
# 如下面可以表示出来的数据有0, 1, 2, 3四个(两个树独立)

0 1
/ \ / \
0 1 0 1

因此对缓存的操作就转化为对二叉树的操作,添加和查找只要在二叉树上找到对应路径的node即可。

算法关键代码:

def _read_bit(self, data, position):
return (data >> position) & 0x1
def _write_bit(self, data, position, value):
return data | value << position

实际使用效果如何呢?

在和Python默认的 set 相比较,得出测试结果如下(存取整型,不定长字符串,定长字符串):

Please select test mode:4
Please enter test times:1000
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.0 0.0209999084473
read(s) 0.0 0.0149998664856
hits 1000 1000
missed 0 0
size 32992 56
add(s/item) 0.0 2.09999084473e-05
read(s/item) 0.0 2.09999084473e-05
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): N/A
read time (bytecache / set): N/A
====================================================================================================
...test fixed length & int data end...
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.00100016593933 6.1740000248
read(s) 0.0 7.21300005913
hits 999 999
missed 0 0
size 32992 56
add(s/item) 1.00016593933e-06 0.0061740000248
read(s/item) 0.0 0.0061740000248
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): 6172.97568534
read time (bytecache / set): N/A
====================================================================================================
...test mutative length & string data end...
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 1000 1000
add(s) 0.0 0.513999938965
read(s) 0.0 0.421000003815
hits 999 999
missed 0 0
size 32992 56
add(s/item) 0.0 0.000513999938965
read(s/item) 0.0 0.000513999938965
====================================================================================================
size (set / bytecache): 589.142857143
add time (bytecache / set): N/A
read time (bytecache / set): N/A
====================================================================================================
...test Fixed length(64) & string data end...

测试下来,内存消耗控制的比较好,一直在56字节,而是用 set 的内存虽然也不是很大,当相较于 ByteCache 来说,则大上很多。

但 ByteCache 的方式来缓存,最大的问题是当碰到非常大的随机数据时,消耗时间会比较惊人。如下面这种随机长度的字符串缓存测试结果:

Please select test mode:2
Please enter test times:2000
====================================================================================================
TEST RESULT::
====================================================================================================
set() bytecache
items 2000 2000
add(s) 0.00400018692017 31.3759999275
read(s) 0.0 44.251999855
hits 1999 1999
missed 0 0
size 131296 56
add(s/item) 2.00009346008e-06 0.0156879999638
read(s/item) 0.0 0.0156879999638
====================================================================================================
size (set / bytecache): 2344.57142857
add time (bytecache / set): 7843.63344856
read time (bytecache / set): N/A
====================================================================================================
...test mutative length & string data end...

在2000个数据中,添加消耗31s,查找消耗44s,而 set 接近于0,单条数据也需要16ms(均值)才能完成读/写操作。

不过,正如开头说的,在紧迫度不是很高的Scrapy中,这个时间并不会太过于窘迫,更何况在Scrapy中,一般是用来缓存哈希后的数据,这些数据的一个重要特性是定长,定长在本缓存算法中还是表现不错的,在64位长度的时候,均值才0.5ms。而与此同时倒是能在大量缓存的时候,释放出比较客观的内存。

如果有更好的缓存算法能让速度在上新台阶,也是无比期待的。。。

总结:

1. 此方法的目标是用时间换取空间,切勿在时间紧迫度高的地方使用

2. 非常适用于大量定长,且数据本身比较小的情况下使用

3. 接2,非常不建议在大量不定长的数据,而且数据本身比较大的情况下使用

以上内容是小编给大家介绍的Python实现以时间换空间的缓存替换算法,希望对大家有所帮助!

Python 相关文章推荐
python使用百度翻译进行中翻英示例
Apr 14 Python
从零学python系列之数据处理编程实例(一)
May 22 Python
在Python中使用Mako模版库的简单教程
Apr 08 Python
python对url格式解析的方法
May 13 Python
详解Python的Django框架中manage命令的使用与扩展
Apr 11 Python
flask + pymysql操作Mysql数据库的实例
Nov 13 Python
python正则表达式面试题解答
Apr 28 Python
python一行sql太长折成多行并且有多个参数的方法
Jul 19 Python
mac安装pytorch及系统的numpy更新方法
Jul 26 Python
pyqt5利用pyqtDesigner实现登录界面
Mar 28 Python
Python如何实现机器人聊天
Sep 10 Python
python 写一个性能测试工具(一)
Oct 24 Python
Python使用爬虫猜密码
Feb 19 #Python
使用Python简单的实现树莓派的WEB控制
Feb 18 #Python
在Ubuntu系统下安装使用Python的GUI工具wxPython
Feb 18 #Python
以一个投票程序的实例来讲解Python的Django框架使用
Feb 18 #Python
使用Python生成随机密码的示例分享
Feb 18 #Python
使用Python的urllib2模块处理url和图片的技巧两则
Feb 18 #Python
讲解Python的Scrapy爬虫框架使用代理进行采集的方法
Feb 18 #Python
You might like
php开发文档 会员收费1期
2012/08/14 PHP
php使用fopen创建utf8编码文件的方法
2014/10/31 PHP
php使用fgetcsv读取csv文件出现乱码的解决方法
2014/11/08 PHP
详解thinkphp中的volist标签
2018/01/15 PHP
javaScript arguments 对象使用介绍
2013/10/18 Javascript
javascript实现json页面分页实例代码
2014/02/20 Javascript
Nodejs学习笔记之Global Objects全局对象
2015/01/13 NodeJs
javascript中字体浮动效果的简单实例演示
2015/11/18 Javascript
JavaScript实现跑马灯抽奖活动实例代码解析与优化(二)
2016/02/16 Javascript
初识简单却不失优雅的Vue.js
2016/09/12 Javascript
10分钟掌握XML、JSON及其解析
2020/12/06 Javascript
nodejs基础知识
2017/02/03 NodeJs
gulp加批处理(.bat)实现ng多应用一键自动化构建
2017/02/16 Javascript
vue获取验证码倒计时组件
2019/08/26 Javascript
VUE实现Studio管理后台之鼠标拖放改变窗口大小
2020/03/04 Javascript
解决vuex数据页面刷新后初始化操作
2020/07/26 Javascript
跟老齐学Python之深入变量和引用对象
2014/09/24 Python
在Python程序中操作MySQL的基本方法
2015/07/29 Python
Python高级用法总结
2018/05/26 Python
python调用百度语音识别实现大音频文件语音识别功能
2018/08/30 Python
深入理解Python中的 __new__ 和 __init__及区别介绍
2018/09/17 Python
python3+selenium实现qq邮箱登陆并发送邮件功能
2019/01/23 Python
关于Python内存分配时的小秘密分享
2019/09/05 Python
Python中求对数方法总结
2020/03/10 Python
python高阶函数map()和reduce()实例解析
2020/03/16 Python
简单了解python调用其他脚本方法实例
2020/03/26 Python
利用CSS3实现动态的二级三级菜单效果实例源码
2017/01/04 HTML / CSS
linux面试题参考答案(3)
2012/09/13 面试题
微型企业创业投资计划书
2014/01/10 职场文书
多媒体编辑专业毕业生求职信
2014/06/13 职场文书
法人委托书的范本格式
2014/09/11 职场文书
生产操作工岗位职责
2014/09/16 职场文书
交通事故委托书范本精选
2014/10/04 职场文书
中班下学期幼儿评语
2014/12/30 职场文书
社区服务理念口号
2015/12/25 职场文书
2016年心理学教育培训学习心得体会
2016/01/12 职场文书