Python 实现数据库更新脚本的生成方法


Posted in Python onJuly 09, 2017

我在工作的时候,在测试环境下使用的数据库跟生产环境的数据库不一致,当我们的测试环境下的数据库完成测试准备更新到生产环境上的数据库时候,需要准备更新脚本,真是一不小心没记下来就会忘了改了哪里,哪里添加了什么,这个真是非常让人头疼。因此我就试着用Python来实现自动的生成更新脚本,以免我这烂记性,记不住事。

主要操作如下:

1.在原先 basedao.py 中添加如下方法,这样旧能很方便的获取数据库的数据,为测试数据库和生产数据库做对比打下了基础。

def select_database_struts(self):
    '''
    查找当前连接配置中的数据库结构以字典集合
    '''
    sql = '''SELECT COLUMN_NAME, IS_NULLABLE, COLUMN_TYPE, COLUMN_KEY, COLUMN_COMMENT
        FROM information_schema.`COLUMNS` 
        WHERE TABLE_SCHEMA="%s" AND TABLE_NAME="{0}" '''%(self.__database)
    struts = {}
    for k in self.__primaryKey_dict.keys():
      self.__cursor.execute(sql.format(k))
      results = self.__cursor.fetchall()
      struts[k] = {}
      for result in results:
        struts[k][result[0]] = {}
        struts[k][result[0]]["COLUMN_NAME"] = result[0]
        struts[k][result[0]]["IS_NULLABLE"] = result[1]
        struts[k][result[0]]["COLUMN_TYPE"] = result[2]
        struts[k][result[0]]["COLUMN_KEY"] = result[3]
        struts[k][result[0]]["COLUMN_COMMENT"] = result[4]
    return self.__config, struts

2.编写对比的Python脚本

'''
数据库迁移脚本, 目前支持一下几种功能:
1.生成旧数据库中没有的数据库表执行 SQL 脚本(支持是否带表数据),生成的 SQL 脚本在 temp 目录下(表名.sql)。
2.生成添加列 SQL 脚本,生成的 SQL 脚本统一放在 temp 目录下的 depoyed.sql 中。
3.生成修改列属性 SQL 脚本,生成的 SQL 脚本统一放在 temp 目录下的 depoyed.sql 中。
4.生成删除列 SQL 脚本,生成的 SQL 脚本统一放在 temp 目录下的 depoyed.sql 中。
'''
import json, os, sys
from basedao import BaseDao

temp_path = sys.path[0] + "/temp"
if not os.path.exists(temp_path):
  os.mkdir(temp_path)

def main(old, new, has_data=False):
  '''
  @old 旧数据库(目标数据库)
  @new 最新的数据库(源数据库)
  @has_data 是否生成结构+数据的sql脚本 
  '''
  clear_temp()  # 先清理 temp 目录
  old_config, old_struts = old
  new_config, new_struts = new
  for new_table, new_fields in new_struts.items():
    if old_struts.get(new_table) is None:
      gc_sql(new_config["user"], new_config["password"], new_config["database"], new_table, has_data)
    else:
      cmp_table(old_struts[new_table], new_struts[new_table], new_table)

def cmp_table(old, new, table):
  '''
  对比表结构生成 sql
  '''
  old_fields = old
  new_fields = new

  sql_add_column = "ALTER TABLE `{TABLE}` ADD COLUMN `{COLUMN_NAME}` {COLUMN_TYPE} COMMENT '{COLUMN_COMMENT}';\n"
  sql_change_column = "ALTER TABLE `{TABLE}` CHANGE `{COLUMN_NAME}` `{COLUMN_NAME}` {COLUMN_TYPE} COMMENT '{COLUMN_COMMENT}';\n"
  sql_del_column = "ALTER TABLE `{TABLE}` DROP {COLUMN_NAME};"

  if old_fields != new_fields:
    f = open(sys.path[0] + "/temp/deploy.sql", "a", encoding="utf8")
    content = ""
    for new_field, new_field_dict in new_fields.items():
      old_filed_dict = old_fields.get(new_field)
      if old_filed_dict is None:
        # 生成添加列 sql
        content += sql_add_column.format(TABLE=table, **new_field_dict)
      else:
        # 生成修改列 sql
        if old_filed_dict != new_field_dict:
          content += sql_change_column.format(TABLE=table, **new_field_dict)
        pass
    # 生成删除列 sql
    for old_field, old_field_dict in old_fields.items():
      if new_fields.get(old_field) is None:
        content += sql_del_column.format(TABLE=table, COLUMN_NAME=old_field)
        
    f.write(content)
    f.close()

def gc_sql(user, pwd, db, table, has_data):
  '''
  生成 sql 文件
  '''
  if has_data:
    sys_order = "mysqldump -u%s -p%s %s %s > %s/%s.sql"%(user, pwd, db, table, temp_path, table)
  else:
    sys_order = "mysqldump -u%s -p%s -d %s %s > %s/%s.sql"%(user, pwd, db, table, temp_path, table)
  os.system(sys_order)

def clear_temp():
  '''
  每次执行的时候调用这个,先清理下temp目录下面的旧文件
  '''
  if os.path.exists(temp_path):
    files = os.listdir(temp_path)
    for file in files:
      f = os.path.join(temp_path, file)
      if os.path.isfile(f):
        os.remove(f)
  print("临时文件目录清理完成")

if __name__ == "__main__":
  test1_config = {
    "user" : "root", 
    "password" : "root",
    "database" : "test1", 
  }
  test2_config = {
    "user" : "root", 
    "password" : "root",
    "database" : "test2", 
  }
  
  test1_dao = BaseDao(**test1_config)
  test1_struts = test1_dao.select_database_struts()
  
  test2_dao = BaseDao(**test2_config)
  test2_struts = test2_dao.select_database_struts()

  main(test2_struts, test1_struts)

目前只支持了4种SQL脚本的生成。

以上这篇Python 实现数据库更新脚本的生成方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python中的代码编码格式转换问题
Jun 10 Python
Python xlwt设置excel单元格字体及格式
Apr 18 Python
Python实现的端口扫描功能示例
Apr 08 Python
Python 从列表中取值和取索引的方法
Dec 25 Python
python学生管理系统开发
Jan 30 Python
Python实现的微信支付方式总结【三种方式】
Apr 13 Python
用django-allauth实现第三方登录的示例代码
Jun 24 Python
python基于paramiko将文件上传到服务器代码实现
Jul 08 Python
python爬虫模拟浏览器的两种方法实例分析
Dec 09 Python
python2.7使用scapy发送syn实例
May 05 Python
python函数map()和partial()的知识点总结
May 26 Python
解决pip安装的第三方包在PyCharm无法导入的问题
Oct 15 Python
Python 实现数据库(SQL)更新脚本的生成方法
Jul 09 #Python
解决python文件字符串转列表时遇到空行的问题
Jul 09 #Python
python3 shelve模块的详解
Jul 08 #Python
Python基于scapy实现修改IP发送请求的方法示例
Jul 08 #Python
Python开发微信公众平台的方法详解【基于weixin-knife】
Jul 08 #Python
python 中random模块的常用方法总结
Jul 08 #Python
Python调用微信公众平台接口操作示例
Jul 08 #Python
You might like
CI配置多数据库访问的方法
2016/03/28 PHP
PHP全功能无变形图片裁剪操作类与用法示例
2017/01/10 PHP
到处都是jQuery选择器的年代 不了解它们的性能,行吗
2012/06/18 Javascript
给artDialog 5.02 增加ajax get功能详细介绍
2012/11/13 Javascript
JS的Document属性和方法小结
2013/09/17 Javascript
jQuery实现类似老虎机滚动抽奖效果
2015/08/06 Javascript
jQuery实现列表内容的动态载入特效
2015/08/08 Javascript
JS运动相关知识点小结(附弹性运动示例)
2016/01/08 Javascript
jQuery简单入门示例之用户校验demo示例
2016/07/09 Javascript
vue货币过滤器的实现方法
2017/04/01 Javascript
JSON生成Form表单的方法示例
2018/11/21 Javascript
JavaScript 继承 封装 多态实现及原理详解
2019/07/29 Javascript
ES6基础之 Promise 对象用法实例详解
2019/08/22 Javascript
es6数组的flat(),flatMap()函数用法实例分析
2020/04/18 Javascript
vue实现购物车案例
2020/05/30 Javascript
[01:45]2014DOTA2 TI预选赛预选赛 战前探营!
2014/05/21 DOTA
[01:08:17]2018DOTA2亚洲邀请赛3月29日 小组赛B组 EG VS VGJ.T
2018/03/30 DOTA
python dict remove数组删除(del,pop)
2013/03/24 Python
使用Python操作Elasticsearch数据索引的教程
2015/04/08 Python
python消费kafka数据批量插入到es的方法
2018/12/27 Python
Python 实现自动导入缺失的库
2019/10/29 Python
英国领先的亚洲旅游专家:Wendy Wu Tours
2018/01/21 全球购物
GoDaddy英国:全球排名第一的域名注册商
2018/06/08 全球购物
意大利中国电子产品购物网站:Geekmall.com
2019/09/30 全球购物
环保建议书500字
2014/05/14 职场文书
计算机专业求职信
2014/06/02 职场文书
个人贷款授权委托书样本
2014/10/07 职场文书
2015年学生会个人工作总结
2015/04/09 职场文书
《1942》观后感
2015/06/08 职场文书
运动会广播稿300字
2015/08/19 职场文书
贷款担保书范本
2015/09/22 职场文书
小学四年级班主任工作经验交流材料
2015/11/02 职场文书
小学四年级作文之人物作文
2019/11/06 职场文书
Nginx配置https原理及实现过程详解
2021/03/31 Servers
如何用PHP实现分布算法之一致性哈希算法
2021/05/26 PHP
Mysql 设置boolean类型的操作
2021/06/04 MySQL