使用 Python 处理3万多条数据只要几秒钟


Posted in Python onJanuary 19, 2020

应用场景:工作中经常遇到大量的数据需要整合、去重、按照特定格式导出等情况。如果用 Excel 操作,不仅费时费力,还不准确,有么有更高效的解决方案呢?

本文以17个 txt 文本,3万多条数据为例,使用 Python 连接 MySQL 数据库,实现快速操作。

别人加班干的活,我的 Python 小助手几秒钟就搞定了!

本文主要包括以下三方面内容:

  • 数据写入
  • 数据去重
  • 数据导出

将数据写入 MySQL 数据库

下图所示文件是本文的数据源:

使用 Python 处理3万多条数据只要几秒钟 

我们的设想是:编写一个小程序,扔在这个文件夹里,双击后就可以自动读取每个 txt 文档中的数据,并写入数据库。

代码如下:

import pymysql
import os
conn = pymysql.connect(host='localhost', user='root', password='123456', db='qq', charset='utf8')
cur = conn.cursor()
cur.execute("CREATE TABLE qq ( id int(5) NOT NULL auto_increment, qq varchar(20)NOT NULL, PRIMARY KEY (id));")
conn.commit()
path = os.getcwd()
files = os.listdir(path)
i = 0
for file in files:
 f = open(file,'r',encoding = 'UTF-8')
 next(f)
 for line in f:
 i += 1
 #print(line)
 sql = "insert into qq(qq) values(%s);"
 cur.execute(sql,line)
 print("插入第", i, "条数据!")
 conn.commit()
 f.close()
cur.close()
conn.close()

运行效果:

使用 Python 处理3万多条数据只要几秒钟 

重点代码解释:

这段代码用到了 pymysql 和 os 两个库。

  • pymysql:用来操作 MySQL 数据库;
  • os:用来遍历所在文件夹下的所有文件。

现将主要代码解释如下:

1、遍历任意文件夹下所有文件名称
程序写好后,使用 pyinstaller 打包成 exe 程序,并放在要操作的文件夹下面。

通过 path = os.getcwd() 命令,获取该 exe 文件所在目录。

通过 files = os.listdir(path) 命令,获取 exe 文件所在目录下的所有文件名称,并存入 files 列表中。

这样我们就获得了所有的 txt 文件名称,你可以任意命名你的 txt 文件名,程序都能读出来。

2、将数据写入数据库

(1)连接数据库,并在数据库中创建新表

A. 连接到我的 qq 数据库

conn = pymysql.connect(host='localhost', user='root', password='123456', db='qq', charset='utf8')

B. 创建新表 qq

在 qq 数据库中创建新表,表名称为 qq ,包含 2 个字段:id 字段为主键、自动递增;qq 字段为字符型,用于存储数据。

cur.execute("CREATE TABLE qq ( id int(5) NOT NULL auto_increment, qq varchar(20)NOT NULL, PRIMARY KEY (id))")

(2)将数据写入数据库

这里使用了两层循环:

for file in files:
 f = open(file,'r',encoding = 'UTF-8')
 next(f)
 for line in f:
 i += 1
 #print(line)
 sql = "insert into qq(qq) values(%s);"
 cur.execute(sql,line)
 print("插入第", i, "条数据!")
 conn.commit()
 f.close()

第一层循环是用来依次打开上述 17 个 txt 文件。

第二层循环是依次读取每个 txt 文件的每一行,并将改行数据插入数据库表 qq 的 qq字段。

至此就完成了数据的导入,总共32073条数据。

使用 Python 处理3万多条数据只要几秒钟 

数据清洗

这里以去除重复值为例,简单介绍一下数据清洗。

1、创建一个新表,用来存储清洗后的数据

可以在 cmd 窗口下登陆 MySQL,打开 qq 数据库,执行下列操作:

CREATE TABLE qq_dist ( id int(5) NOT NULL auto_increment, qq varchar(20)NOT NULL, PRIMARY KEY (id));

这样就创建了新表 qq_dist ,用来存储清洗后的数据,便于后期调用。

2、清洗数据

登陆 MySQL 后,执行下列操作:

insert into qq_dis(qq) select distinct qq from qq;

将从 qq 表中查找出的不重复的 qq 字段内容,插入到 qq_dist 表中的 qq 字段。

将数据按照特定格式导出

案例:将清洗后的数据的第101-200行导出到新的 txt 文本中。

代码如下:

import pymysql
conn = pymysql.connect(host='localhost', user='root', password='123456', db='wxid', charset='utf8')
print("写入中,请等待……")
cur = conn.cursor()
sql = "select wxid from wd_dis limit 100,100;"
cur.execute(sql)
conn.commit()
alldata = cur.fetchall()
f = open('data101-200.txt','a')
i = 0
for data in alldata:
 i += 1
 f.write(data[0])
 f.flush()
f.close
cur.close()
conn.close()
print("写入完成,共写入{}条数据!".format(i))

重点代码解释:

1、 limit

MySQL 中 limit m,n 函数的含义是:从第 m+1 行开始读取 n 行。

所以,本案例中读取第101-200行,就是 limit 100,100

2、flush()

flush() 函数一定要加上,它可以将缓冲区的数据写入文件中。否则就会出现生成的 txt 文档为空白的错误。

总结

以上所述是小编给大家介绍的使用 Python 处理3万多条数据只要几秒钟,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Python 相关文章推荐
Python多进程并发(multiprocessing)用法实例详解
Jun 02 Python
python 动态加载的实现方法
Dec 22 Python
Python实现批量读取图片并存入mongodb数据库的方法示例
Apr 02 Python
python 2.7.14安装图文教程
Apr 08 Python
linux安装Python3.4.2的操作方法
Sep 28 Python
python导包的几种方法(自定义包的生成以及导入详解)
Jul 15 Python
使用WingPro 7 设置Python路径的方法
Jul 24 Python
python的等深分箱实例
Nov 22 Python
python画环形图的方法
Mar 25 Python
Python3爬虫里关于识别微博宫格验证码的知识点详解
Jul 30 Python
python实现简单的tcp 文件下载
Sep 16 Python
python 多线程爬取壁纸网站的示例
Feb 20 Python
Python openpyxl模块原理及用法解析
Jan 19 #Python
Python imutils 填充图片周边为黑色的实现
Jan 19 #Python
python opencv 实现对图像边缘扩充
Jan 19 #Python
python给图像加上mask,并提取mask区域实例
Jan 19 #Python
python实现在一个画布上画多个子图
Jan 19 #Python
python构造函数init实例方法解析
Jan 19 #Python
python matplotlib画盒图、子图解决坐标轴标签重叠的问题
Jan 19 #Python
You might like
PHP中的类型约束介绍
2015/05/11 PHP
PHP安装memcached扩展笔记
2015/05/28 PHP
PHP获取日期对应星期、一周日期、星期开始与结束日期的方法
2018/06/22 PHP
JavaScript 注册事件代码
2011/01/27 Javascript
jquery实现点击TreeView文本父节点展开/折叠子节点
2013/01/10 Javascript
jquery 操作iframe的几种方法总结
2013/12/13 Javascript
javascript中全局对象的isNaN()方法使用介绍
2013/12/19 Javascript
使用JavaScript判断图片是否加载完成的三种实现方式
2014/05/04 Javascript
js判断上传文件类型判断FileUpload文件类型代码
2014/05/20 Javascript
JSON取值前判断
2014/12/23 Javascript
javascript中Date()函数在各浏览器中的显示效果
2015/06/18 Javascript
CSS图片响应式 垂直水平居中
2015/08/14 Javascript
Bootstrap Validator 表单验证
2016/07/25 Javascript
浅谈angularjs中响应回车事件
2017/04/24 Javascript
解决Layui 表单提交数据为空的问题
2018/08/15 Javascript
Javascript ParentNode和ChildNode接口原理解析
2020/03/16 Javascript
vue深度监听(监听对象和数组的改变)与立即执行监听实例
2020/09/04 Javascript
Vue+Java+Base64实现条码解析的示例
2020/09/23 Javascript
解决Python requests 报错方法集锦
2017/03/19 Python
git进行版本控制心得详谈
2017/12/10 Python
python地震数据可视化详解
2019/06/18 Python
python的sorted用法详解
2019/06/25 Python
python for循环remove同一个list过程解析
2019/08/14 Python
css3设置box-pack和box-align让div里面的元素垂直居中
2014/09/01 HTML / CSS
美国网上订购鲜花:FTD
2016/09/23 全球购物
法国房车租赁网站:Yescapa
2019/08/26 全球购物
音乐系毕业生自荐信
2013/10/27 职场文书
法律专业自荐信
2014/06/03 职场文书
标准毕业生自荐信
2014/06/24 职场文书
班子群众路线教育实践个人对照检查材料思想汇报
2014/09/30 职场文书
清明节主题班会
2015/08/14 职场文书
大学三好学生主要事迹范文
2015/11/03 职场文书
《乘法分配律》教学反思
2016/02/24 职场文书
德劲DE1102数字调谐收音机机评
2022/04/07 无线电
Python&Matlab实现樱花的绘制
2022/04/07 Python
Win11 22H2 2022怎么更新? 获得Win1122H22022版本升级技巧
2022/09/23 数码科技