利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
Python遍历目录中的所有文件的方法
Jul 08 Python
详解python中字典的循环遍历的两种方式
Feb 07 Python
使用python画个小猪佩奇的示例代码
Jun 06 Python
python求质数的3种方法
Sep 28 Python
对pandas处理json数据的方法详解
Feb 08 Python
手把手教你使用Python创建微信机器人
Apr 29 Python
linux中如何使用python3获取ip地址
Jul 15 Python
在django中自定义字段Field详解
Dec 03 Python
Django实现微信小程序支付的示例代码
Sep 03 Python
Python Merge函数原理及用法解析
Sep 16 Python
Python做图像处理及视频音频文件分离和合成功能
Nov 24 Python
opencv用VS2013调试时用Image Watch插件查看图片
Jul 26 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
PHP中全面阻止SQL注入式攻击分析小结
2012/01/30 PHP
PHP开发中解决并发问题的几种实现方法分析
2017/11/13 PHP
PHP 出现 http500 错误的解决方法
2021/03/09 PHP
根据出生日期自动取得星座的js代码
2010/07/20 Javascript
node.js中的console.time方法使用说明
2014/12/09 Javascript
JavaScript编程学习技巧汇总
2016/02/21 Javascript
14 个折磨人的 JavaScript 面试题
2016/08/08 Javascript
JS实现放大、缩小及拖拽图片的方法【可兼容IE、火狐】
2016/08/23 Javascript
jQuery将表单序列化成一个Object对象的实例
2016/11/29 Javascript
JavaScript cookie详解及简单实例应用
2016/12/31 Javascript
Bootstrap面板(Panels)的简单实现代码
2017/03/17 Javascript
Angular2自定义分页组件
2017/04/19 Javascript
vue.js框架实现表单排序和分页效果
2017/08/09 Javascript
原生js实现简单的焦点图效果实例
2017/12/14 Javascript
Jquery异步上传文件代码实例
2019/11/13 jQuery
js生成1到100的随机数最简单的实现方法
2020/02/07 Javascript
nodejs使用socket5进行代理请求的实现
2020/02/21 NodeJs
vue实现匀速轮播效果
2020/06/29 Javascript
解决Vue-Router升级导致的Uncaught (in promise)问题
2020/08/07 Javascript
OpenLayers3实现对地图的基本操作
2020/09/28 Javascript
[01:08:24]DOTA2-DPC中国联赛 正赛 RNG vs Phoenix BO3 第一场 2月5日
2021/03/11 DOTA
Python全局变量操作详解
2015/04/14 Python
利用Python暴力破解zip文件口令的方法详解
2017/12/21 Python
Python多线程中阻塞(join)与锁(Lock)使用误区解析
2018/04/27 Python
python模拟表单提交登录图书馆
2018/04/27 Python
python中强大的format函数实例详解
2018/12/05 Python
python如何爬取网站数据并进行数据可视化
2019/07/08 Python
Python使用ElementTree美化XML格式的操作
2020/03/06 Python
python 制作python包,封装成可用模块教程
2020/07/13 Python
北京华建集团SQL面试题
2014/06/03 面试题
学生实习自我鉴定
2013/10/11 职场文书
电子信息专业自荐书
2014/02/04 职场文书
财务情况说明书范文
2014/05/06 职场文书
教师个人查摆剖析材料
2014/10/14 职场文书
教师批评与自我批评范文
2014/10/15 职场文书
python使用pywinauto驱动微信客户端实现公众号爬虫
2021/05/19 Python