Python SQLite3数据库操作类分享


Posted in Python onJune 10, 2014

接触Python时间也不是很长的,最近有个项目需要分析数据,于是选用Python为编程语言,除了语言特性外主要还是看重Python对于SQLite3数据库良好的支持能力了,因为需要灵活处理大量的中间数据。

刚开始一些模块我还乐此不疲的写SQL语句,后来渐渐厌倦了,回想到以前捣鼓C#的时候利用反射初步构建了个SQL查询构造器,直到发现linq,于是放弃了这个计划,当然微软后来又推出了Entity Framework,这些都是后话了,而且现在我对微软的东西兴趣不是很大的,好了,扯多了,下面继续正文。

对了,再扯一句,优秀的博客程序Drupal也使用了类似的查询构造器进行数据库查询,避免直接写SQL语句,另外这样做的一点点好处就是,可以一定程度的屏蔽平台相关性,对于数据库迁移还是有帮助的。

不过我今天介绍的数据库辅助类查询构造器是个很简单的东东,甚至只限于SQLite数据库,如果有童鞋感兴趣可以完善下,我目前只要操作SQLite顺手就可以了,对于比较大的数据库应用就直接上ORM吧。

先看代码:

import sqlite3# ***************************************************
# *
# * Description: Python操作SQLite3数据库辅助类(查询构造器)
# * Author: wangye
# *
# ***************************************************
def _wrap_value(value):
    return repr(value)
def _wrap_values(values):
    return list(map(_wrap_value, values))
def _wrap_fields(fields):
    for key,value in fields.items():
        fields[key] = _wrap_value(value)
    return fields
def _concat_keys(keys):
    return "[" + "],[".join(keys) + "]"
def _concat_values(values):
    return ",".join(values)
def _concat_fields(fields, operator = (None, ",")):
    if operator:
        unit_operator, group_operator = operator
    # fields = _wrap_fields(fields)
    compiled = []
    for key,value in fields.items():
        compiled.append("[" + key + "]")
        if unit_operator:
            compiled.append(unit_operator)
            compiled.append(value)
        compiled.append(group_operator)
    compiled.pop() # pop last group_operator
    return " ".join(compiled)
class DataCondition(object):
    """
        本类用于操作SQL构造器辅助类的条件语句部分
        例如:
        DataCondition(("=", "AND"), id = 26)
        DataCondition(("=", "AND"), True, id = 26)
    """
    def __init__(self, operator = ("=", "AND"), ingroup = True, **kwargs):
        """
            构造方法
            参数:
                operator 操作符,分为(表达式操作符, 条件运算符)
                ingroup  是否分组,如果分组,将以括号包含
                kwargs   键值元组,包含数据库表的列名以及值
                         注意这里的等于号不等于实际生成SQL语句符号
                         实际符号是由operator[0]控制的
            例如:
            DataCondition(("=", "AND"), id = 26)
            (id=26)
            DataCondition((">", "OR"), id = 26, age = 35)
            (id>26 OR age>35)
            DataCondition(("LIKE", "OR"), False, name = "John", company = "Google")
            name LIKE 'John' OR company LIKE "Google"
        """
        self.ingroup = ingroup
        self.fields = kwargs
        self.operator = operator
    def __unicode__(self):
        self.fields = _wrap_fields(self.fields)
        result = _concat_fields(self.fields, self.operator)
        if self.ingroup:
            return "(" + result + ")"
        return result
    def __str__(self):
        return self.__unicode__()
    def toString(self):
        return self.__unicode__()
class DataHelper(object):
    """
        SQLite3 数据查询辅助类
    """
    def __init__(self, filename):
        """
            构造方法
            参数: filename 为SQLite3 数据库文件名
        """
        self.file_name = filename
    def open(self):
        """
            打开数据库并设置游标
        """
        self.connection = sqlite3.connect(self.file_name)
        self.cursor = self.connection.cursor()
        return self
    def close(self):
        """
            关闭数据库,注意若不显式调用此方法,
            在类被回收时也会尝试调用
        """
        if hasattr(self, "connection") and self.connection:
            self.connection.close()
    def __del__(self):
        """
            析构方法,做一些清理工作
        """
        self.close()
    def commit(self):
        """
            提交事务
            SELECT语句不需要此操作,默认的execute方法的
            commit_at_once设为True会隐式调用此方法,
            否则就需要显示调用本方法。
        """
        self.connection.commit()
    def execute(self, sql = None, commit_at_once = True):
        """
            执行SQL语句
            参数:
                sql  要执行的SQL语句,若为None,则调用构造器生成的SQL语句。
                commit_at_once 是否立即提交事务,如果不立即提交,
                对于非查询操作,则需要调用commit显式提交。
        """
        if not sql:
            sql = self.sql
        self.cursor.execute(sql)
        if commit_at_once:
            self.commit()
    def fetchone(self, sql = None):
        """
            取一条记录
        """
        self.execute(sql, False)
        return self.cursor.fetchone()
    def fetchall(self, sql = None):
        """
            取所有记录
        """
        self.execute(sql, False)
        return self.cursor.fetchall()
    def __concat_keys(self, keys):
        return _concat_keys(keys)
    def __concat_values(self, values):
        return _concat_values(values)
    def table(self, *args):
        """
            设置查询的表,多个表名用逗号分隔
        """
        self.tables = args
        self.tables_snippet = self.__concat_keys(self.tables)
        return self
    def __wrap_value(self, value):
        return _wrap_value(value)
    def __wrap_values(self, values):
        return _wrap_values(values)
    def __wrap_fields(self, fields):
        return _wrap_fields(fields)
    def __where(self):
        # self.condition_snippet
        if hasattr(self, "condition_snippet"):
            self.where_snippet = " WHERE " + self.condition_snippet
    def __select(self):
        template = "SELECT %(keys)s FROM %(tables)s"
        body_snippet_fields = {
            "tables" : self.tables_snippet,
            "keys" : self.__concat_keys(self.body_keys), 
        }
        self.sql = template % body_snippet_fields
    def __insert(self):
        template = "INSERT INTO %(tables)s (%(keys)s) VALUES (%(values)s)"
        body_snippet_fields = {
            "tables" : self.tables_snippet,
            "keys" : self.__concat_keys(list(self.body_fields.keys())),
            "values" : self.__concat_values(list(self.body_fields.values()))
        }
        self.sql = template % body_snippet_fields
    def __update(self):
        template = "UPDATE %(tables)s SET %(fields)s"
        body_snippet_fields = {
            "tables" : self.tables_snippet,
            "fields" : _concat_fields(self.body_fields, ("=",","))
        }
        self.sql = template % body_snippet_fields
    def __delete(self):
        template = "DELETE FROM %(tables)s"
        body_snippet_fields = {
            "tables" : self.tables_snippet
        }
        self.sql = template % body_snippet_fields
    def __build(self):
        {
            "SELECT": self.__select,
            "INSERT": self.__insert,
            "UPDATE": self.__update,
            "DELETE": self.__delete
        }[self.current_token]()
    def __unicode__(self):
        return self.sql
    def __str__(self):
        return self.__unicode__()
    def select(self, *args):
        self.current_token = "SELECT"
        self.body_keys = args
        self.__build()
        return self
    def insert(self, **kwargs):
        self.current_token = "INSERT"
        self.body_fields = self.__wrap_fields(kwargs)
        self.__build()
        return self
    def update(self, **kwargs):
        self.current_token = "UPDATE"
        self.body_fields = self.__wrap_fields(kwargs)
        self.__build()
        return self
    def delete(self, *conditions):
        self.current_token = "DELETE"
        self.__build()
        #if *conditions:
        self.where(*conditions)
        return self
    def where(self, *conditions):
        conditions = list(map(str, conditions))
        self.condition_snippet = " AND ".join(conditions)
        self.__where()
        if hasattr(self, "where_snippet"):
            self.sql += self.where_snippet
        return self

下面举几个例子供大家参考吧:

db = DataHelper("/home/wangye/sample.db3")
db.open() # 打开数据库
db.execute("""
    CREATE TABLE [staffs] (
      [staff_id] INTEGER PRIMARY KEY AUTOINCREMENT,
      [staff_name] TEXT NOT NULL,
      [staff_cardnum] TEXT NOT NULL,
      [staff_reserved] INTEGER NOT NULL
)
""") # 直接执行SQL语句,注意这里commit_at_once默认为Truedb.table("staffs").insert(staff_name="John", staff_cardnum="1001", staff_reserved=0)
# 插入一条记录
rs = db.table("staffs").select("staff_id", "staff_name").fetchall()
# 直接取出所有staff_id和staff_name
rs = db.table("staffs").select("staff_name").where(DataCondition(("=", "AND"), id = 1)).fetchone()
# 取一条staff_id为1的staff_name
rs = db.table("staffs").select("staff_name").where(DataCondition(("<", "AND"), id = 100), DataCondition(("=", "AND"), staff_reserved = 1)).fetchone()
# 取一条id小于100并且staff_reserved为1的staff_name记录
db.close() # 关闭数据库

目前还没有让其支持星号(*)操作符,另外在多表同名列操作方面处理得也不是很好,这个只用于日常简单的脚本操作,最好不要用于生产环境,因为可能有未知问题。

Python 相关文章推荐
python使用BeautifulSoup分析网页信息的方法
Apr 04 Python
Python实现k-means算法
Feb 23 Python
Python微医挂号网医生数据抓取
Jan 24 Python
python实现抽奖小程序
Apr 15 Python
基于python3 pyQt5 QtDesignner实现窗口化猜数字游戏功能
Jul 15 Python
Django 开发环境与生产环境的区分详解
Jul 26 Python
Python模块汇总(常用第三方库)
Oct 07 Python
PyCharm 2020.2下配置Anaconda环境的方法步骤
Sep 23 Python
Python常用扩展插件使用教程解析
Nov 02 Python
python 统计代码耗时的几种方法分享
Apr 02 Python
Python图像处理之图像拼接
Apr 28 Python
python对文档中元素删除,替换操作
Apr 02 Python
Python不规范的日期字符串处理类
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之数据查询实例
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之数据添加和事务回滚介绍
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之映射类使用实例和Session会话介绍
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之关系映射实例
Jun 10 #Python
Python ORM框架SQLAlchemy学习笔记之安装和简单查询实例
Jun 10 #Python
Python使用htpasswd实现基本认证授权的例子
Jun 10 #Python
You might like
php下封装较好的数字分页方法
2010/11/23 PHP
让PHP以ROOT权限执行系统命令的方法
2011/02/10 PHP
二进制交叉权限微型php类分享
2014/02/07 PHP
php单例模式示例分享
2015/02/12 PHP
PHP中让json_encode不自动转义斜杠“/”的方法
2017/02/28 PHP
Ubuntu中支持PHP5与PHP7双版本的简单实现
2018/08/19 PHP
Swoole 5将移除自动添加Event::wait()特性详解
2019/07/10 PHP
关于window.pageYOffset和document.documentElement.scrollTop
2011/04/05 Javascript
简介JavaScript中Math.cos()余弦方法的使用
2015/06/15 Javascript
js生成随机数的过程解析
2015/11/24 Javascript
常用的Javascript设计模式小结
2015/12/09 Javascript
实例讲解jquery与json的结合
2016/01/07 Javascript
jQuery实现简单的滑动导航代码(移动端)
2017/05/22 jQuery
使用jquery的jsonp如何发起跨域请求及其原理详解
2017/08/17 jQuery
vue-router路由与页面间导航实例解析
2017/11/07 Javascript
vue-cli项目配置多环境的详细操作过程
2018/10/30 Javascript
详解js删除数组中的指定元素
2018/10/31 Javascript
Javascript数组方法reduce的妙用之处分享
2019/06/10 Javascript
js实现点击上传图片并设为模糊背景
2020/08/02 Javascript
python实现TCP服务器端与客户端的方法详解
2015/04/30 Python
在Python操作时间和日期之asctime()方法的使用
2015/05/22 Python
设计模式中的原型模式在Python程序中的应用示例
2016/03/02 Python
Python遍历目录并批量更换文件名和目录名的方法
2016/09/19 Python
django输出html内容的实例
2018/05/27 Python
详解pandas.DataFrame中删除包涵特定字符串所在的行
2019/04/04 Python
Python实现的文轩网爬虫完整示例
2019/05/16 Python
numpy.linalg.eig() 计算矩阵特征向量方式
2019/11/29 Python
Python箱型图处理离群点的例子
2019/12/09 Python
在python3中实现更新界面
2020/02/21 Python
python百行代码自制电脑端网速悬浮窗的实现
2020/05/12 Python
详解python3 GUI刷屏器(附源码)
2021/02/18 Python
日本乐天德国站:Rakuten.de
2019/05/16 全球购物
厨师岗位职责
2013/11/12 职场文书
信息与工商管理职业规划范文:为梦想而搏击
2014/09/11 职场文书
安全教育培训心得体会
2016/01/15 职场文书
2016年教育局“我们的节日——端午节”主题活动总结
2016/04/01 职场文书