Python SQLite3数据库操作类分享


Posted in Python onJune 10, 2014

接触Python时间也不是很长的,最近有个项目需要分析数据,于是选用Python为编程语言,除了语言特性外主要还是看重Python对于SQLite3数据库良好的支持能力了,因为需要灵活处理大量的中间数据。

刚开始一些模块我还乐此不疲的写SQL语句,后来渐渐厌倦了,回想到以前捣鼓C#的时候利用反射初步构建了个SQL查询构造器,直到发现linq,于是放弃了这个计划,当然微软后来又推出了Entity Framework,这些都是后话了,而且现在我对微软的东西兴趣不是很大的,好了,扯多了,下面继续正文。

对了,再扯一句,优秀的博客程序Drupal也使用了类似的查询构造器进行数据库查询,避免直接写SQL语句,另外这样做的一点点好处就是,可以一定程度的屏蔽平台相关性,对于数据库迁移还是有帮助的。

不过我今天介绍的数据库辅助类查询构造器是个很简单的东东,甚至只限于SQLite数据库,如果有童鞋感兴趣可以完善下,我目前只要操作SQLite顺手就可以了,对于比较大的数据库应用就直接上ORM吧。

先看代码:

import sqlite3# ***************************************************
# *
# * Description: Python操作SQLite3数据库辅助类(查询构造器)
# * Author: wangye
# *
# ***************************************************
def _wrap_value(value):
    return repr(value)
def _wrap_values(values):
    return list(map(_wrap_value, values))
def _wrap_fields(fields):
    for key,value in fields.items():
        fields[key] = _wrap_value(value)
    return fields
def _concat_keys(keys):
    return "[" + "],[".join(keys) + "]"
def _concat_values(values):
    return ",".join(values)
def _concat_fields(fields, operator = (None, ",")):
    if operator:
        unit_operator, group_operator = operator
    # fields = _wrap_fields(fields)
    compiled = []
    for key,value in fields.items():
        compiled.append("[" + key + "]")
        if unit_operator:
            compiled.append(unit_operator)
            compiled.append(value)
        compiled.append(group_operator)
    compiled.pop() # pop last group_operator
    return " ".join(compiled)
class DataCondition(object):
    """
        本类用于操作SQL构造器辅助类的条件语句部分
        例如:
        DataCondition(("=", "AND"), id = 26)
        DataCondition(("=", "AND"), True, id = 26)
    """
    def __init__(self, operator = ("=", "AND"), ingroup = True, **kwargs):
        """
            构造方法
            参数:
                operator 操作符,分为(表达式操作符, 条件运算符)
                ingroup  是否分组,如果分组,将以括号包含
                kwargs   键值元组,包含数据库表的列名以及值
                         注意这里的等于号不等于实际生成SQL语句符号
                         实际符号是由operator[0]控制的
            例如:
            DataCondition(("=", "AND"), id = 26)
            (id=26)
            DataCondition((">", "OR"), id = 26, age = 35)
            (id>26 OR age>35)
            DataCondition(("LIKE", "OR"), False, name = "John", company = "Google")
            name LIKE 'John' OR company LIKE "Google"
        """
        self.ingroup = ingroup
        self.fields = kwargs
        self.operator = operator
    def __unicode__(self):
        self.fields = _wrap_fields(self.fields)
        result = _concat_fields(self.fields, self.operator)
        if self.ingroup:
            return "(" + result + ")"
        return result
    def __str__(self):
        return self.__unicode__()
    def toString(self):
        return self.__unicode__()
class DataHelper(object):
    """
        SQLite3 数据查询辅助类
    """
    def __init__(self, filename):
        """
            构造方法
            参数: filename 为SQLite3 数据库文件名
        """
        self.file_name = filename
    def open(self):
        """
            打开数据库并设置游标
        """
        self.connection = sqlite3.connect(self.file_name)
        self.cursor = self.connection.cursor()
        return self
    def close(self):
        """
            关闭数据库,注意若不显式调用此方法,
            在类被回收时也会尝试调用
        """
        if hasattr(self, "connection") and self.connection:
            self.connection.close()
    def __del__(self):
        """
            析构方法,做一些清理工作
        """
        self.close()
    def commit(self):
        """
            提交事务
            SELECT语句不需要此操作,默认的execute方法的
            commit_at_once设为True会隐式调用此方法,
            否则就需要显示调用本方法。
        """
        self.connection.commit()
    def execute(self, sql = None, commit_at_once = True):
        """
            执行SQL语句
            参数:
                sql  要执行的SQL语句,若为None,则调用构造器生成的SQL语句。
                commit_at_once 是否立即提交事务,如果不立即提交,
                对于非查询操作,则需要调用commit显式提交。
        """
        if not sql:
            sql = self.sql
        self.cursor.execute(sql)
        if commit_at_once:
            self.commit()
    def fetchone(self, sql = None):
        """
            取一条记录
        """
        self.execute(sql, False)
        return self.cursor.fetchone()
    def fetchall(self, sql = None):
        """
            取所有记录
        """
        self.execute(sql, False)
        return self.cursor.fetchall()
    def __concat_keys(self, keys):
        return _concat_keys(keys)
    def __concat_values(self, values):
        return _concat_values(values)
    def table(self, *args):
        """
            设置查询的表,多个表名用逗号分隔
        """
        self.tables = args
        self.tables_snippet = self.__concat_keys(self.tables)
        return self
    def __wrap_value(self, value):
        return _wrap_value(value)
    def __wrap_values(self, values):
        return _wrap_values(values)
    def __wrap_fields(self, fields):
        return _wrap_fields(fields)
    def __where(self):
        # self.condition_snippet
        if hasattr(self, "condition_snippet"):
            self.where_snippet = " WHERE " + self.condition_snippet
    def __select(self):
        template = "SELECT %(keys)s FROM %(tables)s"
        body_snippet_fields = {
            "tables" : self.tables_snippet,
            "keys" : self.__concat_keys(self.body_keys), 
        }
        self.sql = template % body_snippet_fields
    def __insert(self):
        template = "INSERT INTO %(tables)s (%(keys)s) VALUES (%(values)s)"
        body_snippet_fields = {
            "tables" : self.tables_snippet,
            "keys" : self.__concat_keys(list(self.body_fields.keys())),
            "values" : self.__concat_values(list(self.body_fields.values()))
        }
        self.sql = template % body_snippet_fields
    def __update(self):
        template = "UPDATE %(tables)s SET %(fields)s"
        body_snippet_fields = {
            "tables" : self.tables_snippet,
            "fields" : _concat_fields(self.body_fields, ("=",","))
        }
        self.sql = template % body_snippet_fields
    def __delete(self):
        template = "DELETE FROM %(tables)s"
        body_snippet_fields = {
            "tables" : self.tables_snippet
        }
        self.sql = template % body_snippet_fields
    def __build(self):
        {
            "SELECT": self.__select,
            "INSERT": self.__insert,
            "UPDATE": self.__update,
            "DELETE": self.__delete
        }[self.current_token]()
    def __unicode__(self):
        return self.sql
    def __str__(self):
        return self.__unicode__()
    def select(self, *args):
        self.current_token = "SELECT"
        self.body_keys = args
        self.__build()
        return self
    def insert(self, **kwargs):
        self.current_token = "INSERT"
        self.body_fields = self.__wrap_fields(kwargs)
        self.__build()
        return self
    def update(self, **kwargs):
        self.current_token = "UPDATE"
        self.body_fields = self.__wrap_fields(kwargs)
        self.__build()
        return self
    def delete(self, *conditions):
        self.current_token = "DELETE"
        self.__build()
        #if *conditions:
        self.where(*conditions)
        return self
    def where(self, *conditions):
        conditions = list(map(str, conditions))
        self.condition_snippet = " AND ".join(conditions)
        self.__where()
        if hasattr(self, "where_snippet"):
            self.sql += self.where_snippet
        return self

下面举几个例子供大家参考吧:

db = DataHelper("/home/wangye/sample.db3")
db.open() # 打开数据库
db.execute("""
    CREATE TABLE [staffs] (
      [staff_id] INTEGER PRIMARY KEY AUTOINCREMENT,
      [staff_name] TEXT NOT NULL,
      [staff_cardnum] TEXT NOT NULL,
      [staff_reserved] INTEGER NOT NULL
)
""") # 直接执行SQL语句,注意这里commit_at_once默认为Truedb.table("staffs").insert(staff_name="John", staff_cardnum="1001", staff_reserved=0)
# 插入一条记录
rs = db.table("staffs").select("staff_id", "staff_name").fetchall()
# 直接取出所有staff_id和staff_name
rs = db.table("staffs").select("staff_name").where(DataCondition(("=", "AND"), id = 1)).fetchone()
# 取一条staff_id为1的staff_name
rs = db.table("staffs").select("staff_name").where(DataCondition(("<", "AND"), id = 100), DataCondition(("=", "AND"), staff_reserved = 1)).fetchone()
# 取一条id小于100并且staff_reserved为1的staff_name记录
db.close() # 关闭数据库

目前还没有让其支持星号(*)操作符,另外在多表同名列操作方面处理得也不是很好,这个只用于日常简单的脚本操作,最好不要用于生产环境,因为可能有未知问题。

Python 相关文章推荐
用python实现的可以拷贝或剪切一个文件列表中的所有文件
Apr 30 Python
Python中使用装饰器来优化尾递归的示例
Jun 18 Python
Python使用functools模块中的partial函数生成偏函数
Jul 02 Python
python解析html提取数据,并生成word文档实例解析
Jan 22 Python
python爬虫获取新浪新闻教学
Dec 23 Python
python使用thrift教程的方法示例
Mar 21 Python
通过Python编写一个简单登录功能过程解析
Sep 04 Python
调试Django时打印SQL语句的日志代码实例
Sep 12 Python
Windows 下更改 jupyterlab 默认启动位置的教程详解
May 18 Python
使用tensorflow根据输入更改tensor shape
Jun 23 Python
python怎么判断素数
Jul 01 Python
python中pow函数用法及功能说明
Dec 04 Python
Python不规范的日期字符串处理类
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之数据查询实例
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之数据添加和事务回滚介绍
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之映射类使用实例和Session会话介绍
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之关系映射实例
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之安装和简单查询实例
Jun 10 #Python
Python使用htpasswd实现基本认证授权的例子
Jun 10 #Python
You might like
转生史莱姆:萌王第一次撸串开心到飞起,哥布塔撸串却神似界王神
2018/11/30 日漫
php visitFile()遍历指定文件夹函数
2010/08/21 PHP
如何使用FireFox插件FirePHP调试PHP
2013/07/23 PHP
php设置session值和cookies的学习示例
2014/03/21 PHP
PHP调试函数和日志记录函数分享
2015/01/31 PHP
js判断FCKeditor内容是否为空的两种形式
2013/05/14 Javascript
document.getElementById获取控件对象为空的解决方法
2013/11/20 Javascript
nodejs实现的一个简单聊天室功能分享
2014/12/06 NodeJs
jQuery中end()方法用法实例
2015/01/08 Javascript
javascript手工制作悬浮菜单
2015/02/12 Javascript
JQuery CheckBox(复选框)操作方法汇总
2015/04/15 Javascript
jQuery on()方法使用技巧详解
2015/04/16 Javascript
JavaScript定时器和优化的取消定时器方法
2015/07/03 Javascript
使用jquery提交form表单并自定义action的实现代码
2016/05/25 Javascript
微信小程序wx.request实现后台数据交互功能分析
2017/11/25 Javascript
Koa2微信公众号开发之消息管理
2018/05/16 Javascript
微信小程序与公众号卡券/会员打通的问题
2019/07/25 Javascript
vue 组件内获取actions的response方式
2019/11/08 Javascript
Vue中el-form标签中的自定义el-select下拉框标签功能
2020/04/20 Javascript
JavaScript前后端JSON使用方法教程
2020/11/23 Javascript
Python模块包中__init__.py文件功能分析
2016/06/14 Python
Python request设置HTTPS代理代码解析
2018/02/12 Python
Python迭代器与生成器用法实例分析
2018/07/09 Python
django中使用Celery 布式任务队列过程详解
2019/07/29 Python
关于python3中setup.py小概念解析
2019/08/22 Python
Python使用python-docx读写word文档
2019/08/26 Python
在vscode中配置python环境过程解析
2019/09/28 Python
详解BeautifulSoup获取特定标签下内容的方法
2020/12/07 Python
Move Free官方海外旗舰店:美国骨关节健康专业品牌
2017/12/06 全球购物
酒吧副总经理岗位职责
2013/12/10 职场文书
机工车间主任岗位职责
2014/03/05 职场文书
端午节活动策划方案
2014/03/09 职场文书
物业管理专业自荐信
2014/07/01 职场文书
联谊活动总结
2014/08/28 职场文书
2015年学校政教工作总结
2015/07/20 职场文书
高效笔记技巧分享:学会这些让你不再困扰
2019/09/04 职场文书