利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
Python map和reduce函数用法示例
Feb 26 Python
python从网络读取图片并直接进行处理的方法
May 22 Python
Python算法输出1-9数组形成的结果为100的所有运算式
Nov 03 Python
python监控进程脚本
Apr 12 Python
[原创]Python入门教程3. 列表基本操作【定义、运算、常用函数】
Oct 30 Python
Python3实现的简单工资管理系统示例
Mar 12 Python
在Django model中设置多个字段联合唯一约束的实例
Jul 17 Python
python requests指定出口ip的例子
Jul 25 Python
python绘制随机网络图形示例
Nov 21 Python
基于python实现文件加密功能
Jan 06 Python
如何查看Django ORM执行的SQL语句的实现
Apr 20 Python
Python中glob库实现文件名的匹配
Jun 18 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
解决Codeigniter不能上传rar和zip压缩包问题
2014/03/07 PHP
php实现修改新闻时删除图片的方法
2015/05/12 PHP
thinkPHP连接sqlite3数据库的实现方法(附Thinkphp代码生成器下载)
2016/05/27 PHP
laravel 实现登陆后返回登陆前的页面方法
2019/10/03 PHP
laravel框架查询数据集转为数组的两种方法
2019/10/10 PHP
在JavaScript中遭遇级联表达式陷阱
2007/03/08 Javascript
获取JavaScript用户自定义类的类名称的代码
2007/03/08 Javascript
ie 处理 gif动画 的onload 事件的一个 bug
2007/04/12 Javascript
Ext.MessageBox工具类简介
2009/12/10 Javascript
javascript 隐藏/显示指定的区域附HTML元素【legend】用法
2010/03/05 Javascript
元素的内联事件处理函数的特殊作用域在各浏览器中存在差异
2011/01/12 Javascript
基于jQuery中对数组进行操作的方法
2013/04/16 Javascript
jQuery的3种请求方式$.post,$.get,$.getJSON
2014/03/28 Javascript
JavaScript对象数组排序实例方法浅析
2016/06/15 Javascript
遍历json 对象的属性并且动态添加属性的实现
2016/12/02 Javascript
vue2滚动条加载更多数据实现代码
2017/01/10 Javascript
详解Vue.js搭建路由报错 router.map is not a function
2017/06/27 Javascript
解决ztree搜索中多级菜单展示不全问题
2017/07/05 Javascript
Vue filters过滤器的使用方法
2017/07/14 Javascript
微信小程序与后台PHP交互的方法实例分析
2018/12/10 Javascript
Electron vue的使用教程图文详解
2019/07/05 Javascript
layui表格内放置图片,并点击放大的实例
2019/09/10 Javascript
JS实现简单随机3D骰子
2019/10/24 Javascript
js使用文档就绪函数动态改变页面内容示例【innerHTML、innerText】
2019/11/07 Javascript
[43:03]完美世界DOTA2联赛PWL S2 PXG vs Magma 第二场 11.21
2020/11/24 DOTA
python基础入门详解(文件输入/输出 内建类型 字典操作使用方法)
2013/12/08 Python
Python中使用装饰器来优化尾递归的示例
2016/06/18 Python
Django框架模板的使用方法示例
2019/05/25 Python
Django的models中on_delete参数详解
2019/07/16 Python
Python 如何提高元组的可读性
2019/08/26 Python
在Django中实现添加user到group并查看
2019/11/18 Python
Python自动化测试基础必备知识点总结
2021/02/07 Python
CSS3实现滚动条动画效果代码分享
2016/08/03 HTML / CSS
美国潜水装备、水肺潜水和浮潜设备商店:Leisure Pro
2018/08/08 全球购物
大学国际贸易专业自荐信
2014/06/05 职场文书
公司领导班子对照材料
2014/08/18 职场文书