Python中用memcached来减少数据库查询次数的教程


Posted in Python onApril 07, 2015

本来我一直不知道怎么来更好地优化网页的性能,然后最近做python和php同类网页渲染速度比较时,意外地发现一个很简单很白痴但是 我一直没发现的好方法(不得不BS我自己):直接像某些php应用比如Discuz论坛那样,在生成的网页中打印出“本页面生成时间多少多少秒”,然后在 不停地访问网页测试时,很直观地就能发现什么操作会导致瓶颈,怎样来解决瓶颈了。

于是我发现SimpleCD在 生成首页时,意外地竟然需要0.2秒左右,真真不能忍:对比Discuz论坛首页平均生成才0.02秒,而Discuz论坛的首页页面无疑比 SimpleCD的主页要复杂不少;这让我情何以堪啊,因为这必然不是Python语言导致的差距,只能说是我完全没做优化而Discuz程序优化得很好 的后果。

其实不用分析也能知道肯定是数据库在拖累,SimpleCD在生成首页时需要在sqlite的三个数据库中进行42多次查询,是历史原因导致的极其低效的一个设计;但是这40多次查询中,其实大部分是非常快的查询,仔细分析一下就有两个是性能大户,其他都不慢。

第一个大户就是:获取数据个数
 

SELECT count(*) FROM verycd

这个操作每次都要花不少时间,这是因为每次数据库都要锁住然后遍历一遍主键统计个数的缘故,数据量越大耗时就越大,耗时为O(N),N为数据库大小;实际 上解决这个问题非常容易,只要随便在哪存一个当前数据的个数,只有在增删数据的时候改动就行了,这样时间就是O(1)的了

第二个大户就是:获取最新更新的20个数据列表
 

SELECT verycdid,title,brief,updtime FROM verycd
 
  ORDER BY updtime DESC LIMIT 20;

因为在updtime上面做了索引,所以其实真正查询时间也就是搜索索引的时间而已。然则为什么这个操作会慢呢?因为我的数据是按照publish time插入的,按update time进行显示的话就肯定需要在至少20个不同的地方做I/O,这么一来就慢了。解决的方法就是让它在一个地方做I/O。也就是,除非数据库加入新数据 /改变原有数据,否则把这条语句的返回结果缓存起来。这么一来又快了20倍:)

接下来的是20条小case:取得发布人和点击数信息
 

SELECT owner FROM LOCK WHERE id=XXXX;
 
SELECT hits FROM stat WHERE id=XXXX;

这里为什么没用sql的join语句来省点事呢?因为架构原因这些数据放在不同的数据库里,stat是点击率一类的数据库,因为需要频繁的插入所以用 mysql存储;而lock和verycd是需要大量select操作的数据库,因为mysql悲剧的索引使用情况和分页效率而存放在了sqlite3数 据库,所以无法join -.-

总之这也不是问题,跟刚才的解决方法一样,统统缓存

所以纵观我这个例子,优化网页性能可以一言以蔽之,缓存数据库查询,即可。我相信大部分网页应用都是这样:)

终于轮到memcached了,既然打算缓存,用文件做缓存的话还是有磁盘I/O,不如直接缓存到内存里面,内存I/O可就快多了。于是memcached顾名思义就是这么个东东。

memcached是很强大的工具,因为它可以支持分布式的共享内存缓存,大站都用它,对小站点来说,只要出得起内存,这也是好东西;首页所需要的内存缓冲区大小估计不会超过10K,更何况我现在也是内存土豪了,还在乎这个?

配置运行:因为是单机没啥好配的,改改内存和端口就行了
 

vi /etc/memcached.conf
 
/etc/init.d/memcached restart

在python的网页应用中使用之
 

import memcache
 
mc = memcache.Client(['127.0.0.1:11211'], debug=0)

memcache其实就是一个map结构,最常使用的就是两个函数了:

  1.     第一个就是set(key,value,timeout),这个很简单就是把key映射到value,timeout指的是什么时候这个映射失效
  2.     第二个就是get(key)函数,返回key所指向的value

于是对一个正常的sql查询可以这么干

sql = 'select count(*) from verycd'
 
c = sqlite3.connect('verycd.db').cursor()
 
 
 
# 原来的处理方式
 
c.execute(sql)
 
count = c.fetchone()[0]
 
 
 
# 现在的处理方式
 
from hashlib import md5
 
key=md5(sql)
 
count = mc.get(key)
 
if not count:
 
  c.execute(sql)
 
  count = c.fetchone()[0]
 
  mc.set(key,count,60*5) #存5分钟

 

其中md5是为了让key分布更均匀,其他代码很直观我就不解释了。

优化过语句1和语句2后,首页的平均生成时间已经降低到0.02秒,和discuz一个量级了;再经过语句3的优化,最终结果是首页生成时间降低到了 0.006秒左右,经过memcached寥寥几行代码的优化,性能提高了3300%。终于可以挺直腰板来看Discuz了)

Python 相关文章推荐
python实现从web抓取文档的方法
Sep 26 Python
浅谈Python浅拷贝、深拷贝及引用机制
Dec 15 Python
轻松实现TensorFlow微信跳一跳的AI
Jan 05 Python
python实现外卖信息管理系统
Jan 11 Python
浅谈配置OpenCV3 + Python3的简易方法(macOS)
Apr 02 Python
python之Flask实现简单登录功能的示例代码
Dec 24 Python
在Python中过滤Windows文件名中的非法字符方法
Jun 10 Python
Flask 上传自定义头像的实例详解
Jan 09 Python
python实现梯度下降法
Mar 24 Python
python logging通过json文件配置的步骤
Apr 27 Python
Python如何使用vars返回对象的属性列表
Oct 17 Python
matplotlib交互式数据光标实现(mplcursors)
Jan 13 Python
Python3中常用的处理时间和实现定时任务的方法的介绍
Apr 07 #Python
Python中使用pprint函数进行格式化输出的教程
Apr 07 #Python
利用QT写一个极简单的图形化Python闹钟程序
Apr 07 #Python
分析Python编程时利用wxPython来支持多线程的方法
Apr 07 #Python
Python中尝试多线程编程的一个简明例子
Apr 07 #Python
Python的Flask框架中Flask-Admin库的简单入门指引
Apr 07 #Python
用Python实现一个简单的线程池
Apr 07 #Python
You might like
推荐php模板技术[转]
2007/01/04 PHP
php汉字转拼音的示例
2014/02/27 PHP
php中session过期时间设置及session回收机制介绍
2014/05/05 PHP
PHP中的session安全吗?
2016/01/22 PHP
php使用Jpgraph创建3D饼形图效果示例
2017/02/15 PHP
Mac下php 5升级到php 7的步骤详解
2017/04/26 PHP
详解PHP序列化和反序列化原理
2018/01/15 PHP
PHP实现链表的定义与反转功能示例
2018/06/09 PHP
laravel 5.5 关闭token的3种实现方式
2019/10/24 PHP
Laravel 5+ .env环境配置文件详解
2020/04/06 PHP
PhpStorm 2020.3:新增开箱即用的PHP 8属性(推荐)
2020/10/30 PHP
JavaScript 代码压缩工具小结
2012/02/27 Javascript
js 遍历json返回的map内容示例代码
2013/10/29 Javascript
js 金额格式化来回转换示例
2014/02/23 Javascript
JS+CSS实现精美的二级导航效果代码
2015/09/17 Javascript
Jsonp 关键字详解及json和jsonp的区别,ajax和jsonp的区别
2015/12/30 Javascript
JavaScript学习总结(一) ECMAScript、BOM、DOM(核心、浏览器对象模型与文档对象模型)
2018/01/07 Javascript
Vue.js中 v-model 指令的修饰符详解
2018/12/03 Javascript
js使用cookie实现记住用户名功能示例
2019/06/13 Javascript
原生js+canvas实现下雪效果
2020/08/02 Javascript
使用Vant完成Dialog弹框案例
2020/11/11 Javascript
[01:08:48]LGD vs OG 2018国际邀请赛淘汰赛BO3 第三场 8.25
2018/08/29 DOTA
Python操作MySQL简单实现方法
2015/01/26 Python
Python3使用requests登录人人影视网站的方法
2016/05/11 Python
利用python模拟sql语句对员工表格进行增删改查
2017/07/05 Python
详解python的sorted函数对字典按key排序和按value排序
2018/08/10 Python
Python的高阶函数用法实例分析
2019/04/11 Python
python网络编程 使用UDP、TCP协议收发信息详解
2019/08/29 Python
Charles & Colvard官网:美国莫桑石品牌
2019/06/05 全球购物
学术会议欢迎词
2014/01/09 职场文书
《美丽的黄昏》教学反思
2014/02/28 职场文书
三项教育活动实施方案
2014/03/30 职场文书
应用外语系自荐信
2014/06/26 职场文书
党员反对四风思想汇报范文
2014/10/25 职场文书
见习报告怎么写
2014/10/31 职场文书
民事纠纷协议书
2016/03/23 职场文书