python 实现读取csv数据,分类求和 再写进 csv


Posted in Python onMay 18, 2020

这两天在测试过程中,遇到这样的问题:

数据量很大,一份csv文件的数据与另外一个文件的数据进行对比,但是csv中的文件数据量很大,并且进行统计 ,如果手动单个去对比,会很花时间,吃力不讨好,还容易出错。

比如说,这样的数据

python 实现读取csv数据,分类求和 再写进 csv

需要对AskPrice值相同对应的AskQuantity 统计出来。

直接上脚本 :

import pandas as pd
import csv
df=pd.read_csv('D:\test\orderBook.csv')
df_sum = df.groupby('AskPrice')['AskQuantity'].sum() 
df_sum.to_csv('D:\test\orderBook2.csv')

然后运行得到:

python 实现读取csv数据,分类求和 再写进 csv

这对于大数据量的处理特别方便。

补充知识:python处理csv文件(场景分类)

最近做一个关于场景分类的比赛,总共有20类,不到2万张图片,首先要做的就是把20类图片分到每个文件夹下。

import numpy as np
import os
import xlrd
import pandas as pd
import shutil
list_0 = []
list_file = []
flag = []
filename = os.listdir('F:\工作\比赛\未来杯\image_scene_training\data')
af = pd.read_excel('19.xlsx')
ww = af.values.tolist()
for i in ww:
  for j in i:
    list_0.append(j)
for name in filename:
  list_file.append(name[0:-4])
 
for name in list_file:
  if name in list_0:
    flag.append(True)
  else:
    flag.append(False)
 
for name in list_file:
  if flag[list_file.index(name)]:
    oldname = u'F:\工作\比赛\未来杯\image_scene_training\data\\'+name+'.jpg'
    newname = u'F:\工作\比赛\未来杯\image_scene_training\\train_data\\beach\\'+name+'.jpg'
    shutil.copyfile(oldname,newname)

unicodeDecodeError:'utf-8' codec can't decode byte 0xce in position 72: invalid continuation byte

1:升级pip python -m pip install --upgrade pip

2:改python文件内容:找到lib\site-packages\pip\compat\__init__.py

return s.decode('utf-8')

将‘utf-8'改成'gbk'

以上这篇python 实现读取csv数据,分类求和 再写进 csv就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
使用python实现递归版汉诺塔示例(汉诺塔递归算法)
Apr 08 Python
用Python实现一个简单的线程池
Apr 07 Python
python使用htmllib分析网页内容的方法
May 08 Python
python正则-re的用法详解
Jul 28 Python
Python中list的交、并、差集获取方法示例
Aug 01 Python
python+opencv3生成一个自定义纯色图教程
Feb 19 Python
Python 格式化打印json数据方法(展开状态)
Feb 27 Python
appium+python adb常用命令分享
Mar 06 Python
Python基于QQ邮箱实现SSL发送
Apr 26 Python
python pymysql链接数据库查询结果转为Dataframe实例
Jun 05 Python
Python csv文件记录流程代码解析
Jul 16 Python
聊聊python中的异常嵌套
Sep 01 Python
python 实现分组求和与分组累加求和代码
May 18 #Python
Django ORM实现按天获取数据去重求和例子
May 18 #Python
如何实现更换Jupyter Notebook内核Python版本
May 18 #Python
python mysql自增字段AUTO_INCREMENT值的修改方式
May 18 #Python
Pycharm安装并配置jupyter notebook的实现
May 18 #Python
Django中的AutoField字段使用
May 18 #Python
jupyter notebook运行命令显示[*](解决办法)
May 18 #Python
You might like
生成静态页面的php函数,php爱好者站推荐
2007/03/19 PHP
让Nginx支持ThinkPHP的URL重写和PATHINFO的方法分享
2011/08/08 PHP
推荐10个提供免费PHP脚本下载的网站
2014/12/31 PHP
PHP开发中常用的十个代码样例
2016/02/02 PHP
PHP FileSystem 文件系统常用api整理总结
2019/07/12 PHP
NodeJS学习笔记之网络编程
2014/08/03 NodeJs
JavaScript中的console.group()函数详细介绍
2014/12/29 Javascript
JavaScript点击按钮后弹出透明浮动层的方法
2015/05/11 Javascript
js+css绘制颜色动态变化的圈中圈效果
2016/01/27 Javascript
深入理解JS中的Function.prototype.bind()方法
2016/10/11 Javascript
js 简易版滚动条实例(适用于移动端H5开发)
2017/06/26 Javascript
Vue快速实现通用表单验证的示例代码
2020/01/09 Javascript
JavaScript设计模式之策略模式实现原理详解
2020/05/29 Javascript
[41:08]2014 DOTA2国际邀请赛中国区预选赛 HGT VS NE
2014/05/22 DOTA
Python中的自定义函数学习笔记
2014/09/23 Python
django实现用户登陆功能详解
2017/12/11 Python
django初始化数据库的实例
2018/05/27 Python
Python DataFrame 设置输出不显示index(索引)值的方法
2018/06/07 Python
OpenCV图像颜色反转算法详解
2019/05/13 Python
详解pandas数据合并与重塑(pd.concat篇)
2019/07/09 Python
python 如何调用远程接口
2020/09/11 Python
Python 串口通信的实现
2020/09/29 Python
纯CSS3实现的8种Loading动画效果
2014/07/05 HTML / CSS
CSS3 实现穿梭星空动画
2020/11/13 HTML / CSS
工程质量承诺书范文
2014/03/27 职场文书
有子女的离婚协议书怎么写(范本)
2014/09/29 职场文书
党校毕业个人总结
2015/02/28 职场文书
外贸采购员岗位职责
2015/04/03 职场文书
2015年业务员工作总结范文
2015/04/07 职场文书
电力安全学习心得体会
2016/01/18 职场文书
古诗文之爱国名句(77句)
2019/09/24 职场文书
《中华上下五千年》读后感3篇
2019/11/29 职场文书
python数据库批量插入数据的实现(executemany的使用)
2021/04/30 Python
Python Pandas读取Excel日期数据的异常处理方法
2022/02/28 Python
MySQL 自动填充 create_time 和 update_time
2022/05/20 MySQL
Java Spring Boot请求方式与请求映射过程分析
2022/06/25 Java/Android