Python 实现数据库更新脚本的生成方法


Posted in Python onJuly 09, 2017

我在工作的时候,在测试环境下使用的数据库跟生产环境的数据库不一致,当我们的测试环境下的数据库完成测试准备更新到生产环境上的数据库时候,需要准备更新脚本,真是一不小心没记下来就会忘了改了哪里,哪里添加了什么,这个真是非常让人头疼。因此我就试着用Python来实现自动的生成更新脚本,以免我这烂记性,记不住事。

主要操作如下:

1.在原先 basedao.py 中添加如下方法,这样旧能很方便的获取数据库的数据,为测试数据库和生产数据库做对比打下了基础。

def select_database_struts(self):
    '''
    查找当前连接配置中的数据库结构以字典集合
    '''
    sql = '''SELECT COLUMN_NAME, IS_NULLABLE, COLUMN_TYPE, COLUMN_KEY, COLUMN_COMMENT
        FROM information_schema.`COLUMNS` 
        WHERE TABLE_SCHEMA="%s" AND TABLE_NAME="{0}" '''%(self.__database)
    struts = {}
    for k in self.__primaryKey_dict.keys():
      self.__cursor.execute(sql.format(k))
      results = self.__cursor.fetchall()
      struts[k] = {}
      for result in results:
        struts[k][result[0]] = {}
        struts[k][result[0]]["COLUMN_NAME"] = result[0]
        struts[k][result[0]]["IS_NULLABLE"] = result[1]
        struts[k][result[0]]["COLUMN_TYPE"] = result[2]
        struts[k][result[0]]["COLUMN_KEY"] = result[3]
        struts[k][result[0]]["COLUMN_COMMENT"] = result[4]
    return self.__config, struts

2.编写对比的Python脚本

'''
数据库迁移脚本, 目前支持一下几种功能:
1.生成旧数据库中没有的数据库表执行 SQL 脚本(支持是否带表数据),生成的 SQL 脚本在 temp 目录下(表名.sql)。
2.生成添加列 SQL 脚本,生成的 SQL 脚本统一放在 temp 目录下的 depoyed.sql 中。
3.生成修改列属性 SQL 脚本,生成的 SQL 脚本统一放在 temp 目录下的 depoyed.sql 中。
4.生成删除列 SQL 脚本,生成的 SQL 脚本统一放在 temp 目录下的 depoyed.sql 中。
'''
import json, os, sys
from basedao import BaseDao

temp_path = sys.path[0] + "/temp"
if not os.path.exists(temp_path):
  os.mkdir(temp_path)

def main(old, new, has_data=False):
  '''
  @old 旧数据库(目标数据库)
  @new 最新的数据库(源数据库)
  @has_data 是否生成结构+数据的sql脚本 
  '''
  clear_temp()  # 先清理 temp 目录
  old_config, old_struts = old
  new_config, new_struts = new
  for new_table, new_fields in new_struts.items():
    if old_struts.get(new_table) is None:
      gc_sql(new_config["user"], new_config["password"], new_config["database"], new_table, has_data)
    else:
      cmp_table(old_struts[new_table], new_struts[new_table], new_table)

def cmp_table(old, new, table):
  '''
  对比表结构生成 sql
  '''
  old_fields = old
  new_fields = new

  sql_add_column = "ALTER TABLE `{TABLE}` ADD COLUMN `{COLUMN_NAME}` {COLUMN_TYPE} COMMENT '{COLUMN_COMMENT}';\n"
  sql_change_column = "ALTER TABLE `{TABLE}` CHANGE `{COLUMN_NAME}` `{COLUMN_NAME}` {COLUMN_TYPE} COMMENT '{COLUMN_COMMENT}';\n"
  sql_del_column = "ALTER TABLE `{TABLE}` DROP {COLUMN_NAME};"

  if old_fields != new_fields:
    f = open(sys.path[0] + "/temp/deploy.sql", "a", encoding="utf8")
    content = ""
    for new_field, new_field_dict in new_fields.items():
      old_filed_dict = old_fields.get(new_field)
      if old_filed_dict is None:
        # 生成添加列 sql
        content += sql_add_column.format(TABLE=table, **new_field_dict)
      else:
        # 生成修改列 sql
        if old_filed_dict != new_field_dict:
          content += sql_change_column.format(TABLE=table, **new_field_dict)
        pass
    # 生成删除列 sql
    for old_field, old_field_dict in old_fields.items():
      if new_fields.get(old_field) is None:
        content += sql_del_column.format(TABLE=table, COLUMN_NAME=old_field)
        
    f.write(content)
    f.close()

def gc_sql(user, pwd, db, table, has_data):
  '''
  生成 sql 文件
  '''
  if has_data:
    sys_order = "mysqldump -u%s -p%s %s %s > %s/%s.sql"%(user, pwd, db, table, temp_path, table)
  else:
    sys_order = "mysqldump -u%s -p%s -d %s %s > %s/%s.sql"%(user, pwd, db, table, temp_path, table)
  os.system(sys_order)

def clear_temp():
  '''
  每次执行的时候调用这个,先清理下temp目录下面的旧文件
  '''
  if os.path.exists(temp_path):
    files = os.listdir(temp_path)
    for file in files:
      f = os.path.join(temp_path, file)
      if os.path.isfile(f):
        os.remove(f)
  print("临时文件目录清理完成")

if __name__ == "__main__":
  test1_config = {
    "user" : "root", 
    "password" : "root",
    "database" : "test1", 
  }
  test2_config = {
    "user" : "root", 
    "password" : "root",
    "database" : "test2", 
  }
  
  test1_dao = BaseDao(**test1_config)
  test1_struts = test1_dao.select_database_struts()
  
  test2_dao = BaseDao(**test2_config)
  test2_struts = test2_dao.select_database_struts()

  main(test2_struts, test1_struts)

目前只支持了4种SQL脚本的生成。

以上这篇Python 实现数据库更新脚本的生成方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python中subprocess的简单使用示例
Jul 28 Python
python分割列表(list)的方法示例
May 07 Python
Linux RedHat下安装Python2.7开发环境
May 20 Python
PyCharm在新窗口打开项目的方法
Jan 17 Python
如何使用python操作vmware
Jul 27 Python
TensorFlow设置日志级别的几种方式小结
Feb 04 Python
python可视化text()函数使用详解
Feb 11 Python
python logging.info在终端没输出的解决
May 12 Python
基于FME使用Python过程图解
May 13 Python
python更新数据库中某个字段的数据(方法详解)
Nov 18 Python
python help函数实例用法
Dec 06 Python
Python 中面向接口编程
May 20 Python
Python 实现数据库(SQL)更新脚本的生成方法
Jul 09 #Python
解决python文件字符串转列表时遇到空行的问题
Jul 09 #Python
python3 shelve模块的详解
Jul 08 #Python
Python基于scapy实现修改IP发送请求的方法示例
Jul 08 #Python
Python开发微信公众平台的方法详解【基于weixin-knife】
Jul 08 #Python
python 中random模块的常用方法总结
Jul 08 #Python
Python调用微信公众平台接口操作示例
Jul 08 #Python
You might like
上海无线电三厂简史修改版
2021/03/01 无线电
收集的DedeCMS一些使用经验
2007/03/17 PHP
php在线打包程序源码
2008/07/27 PHP
PHP 解决utf-8和gb2312编码转换问题
2010/03/18 PHP
PHP统计数值数组中出现频率最多的10个数字的方法
2015/04/20 PHP
php上传excel表格并获取数据
2017/04/27 PHP
云网广告中的代码,提示出错,大家找找
2006/11/21 Javascript
JavaScript判断一个URL链接是否有效的实现方法
2011/10/08 Javascript
javascript面向对象包装类Class封装类库剖析
2013/01/24 Javascript
jquery+css3打造一款ajax分页插件(自写)
2014/06/18 Javascript
JS遍历Json字符串中键值对先转成JSON对象再遍历
2014/08/15 Javascript
js 动态修改css文件用到了cssRule
2014/08/20 Javascript
jquery插件hiAlert实现网页对话框美化
2015/05/03 Javascript
JS实现弹性菜单效果代码
2015/09/07 Javascript
举例讲解JavaScript中关于对象操作的相关知识
2015/11/16 Javascript
利用Node.js制作爬取大众点评的爬虫
2016/09/22 Javascript
百度多文件异步上传控件webuploader基本用法解析
2016/11/07 Javascript
详解Angular 4.x Injector
2017/05/04 Javascript
JavaScript禁止微信浏览器下拉回弹效果
2017/05/16 Javascript
vue 中 beforeRouteEnter 死循环的问题
2019/04/23 Javascript
微信小程序开发之获取用户手机号码(php接口解密)
2020/05/17 Javascript
Python 中导入csv数据的三种方法
2018/11/01 Python
OpenCV-Python 摄像头实时检测人脸代码实例
2019/04/30 Python
pandas取出重复数据的方法
2019/07/04 Python
django使用graphql的实例
2020/09/02 Python
全球领先的各类汽车配件零售商:Advance Auto Parts
2016/08/26 全球购物
美国床垫和床上用品公司:Nest Bedding
2017/06/12 全球购物
世嘉游戏英国官方商店:SEGA Shop UK
2019/09/20 全球购物
怎样声明接口
2014/09/19 面试题
《蜗牛的奖杯》教后反思
2014/04/24 职场文书
单位工资证明范本
2015/06/12 职场文书
读书笔记怎么写
2015/07/01 职场文书
2015年四年级班主任工作总结
2015/10/22 职场文书
总结Python连接CS2000的详细步骤
2021/06/23 Python
Oracle安装TNS_ADMIN环境变量设置参考
2021/11/01 Oracle
Java实现字符串转为驼峰格式的方法详解
2022/07/07 Java/Android