python 实现读取csv数据,分类求和 再写进 csv


Posted in Python onMay 18, 2020

这两天在测试过程中,遇到这样的问题:

数据量很大,一份csv文件的数据与另外一个文件的数据进行对比,但是csv中的文件数据量很大,并且进行统计 ,如果手动单个去对比,会很花时间,吃力不讨好,还容易出错。

比如说,这样的数据

python 实现读取csv数据,分类求和 再写进 csv

需要对AskPrice值相同对应的AskQuantity 统计出来。

直接上脚本 :

import pandas as pd
import csv
df=pd.read_csv('D:\test\orderBook.csv')
df_sum = df.groupby('AskPrice')['AskQuantity'].sum() 
df_sum.to_csv('D:\test\orderBook2.csv')

然后运行得到:

python 实现读取csv数据,分类求和 再写进 csv

这对于大数据量的处理特别方便。

补充知识:python处理csv文件(场景分类)

最近做一个关于场景分类的比赛,总共有20类,不到2万张图片,首先要做的就是把20类图片分到每个文件夹下。

import numpy as np
import os
import xlrd
import pandas as pd
import shutil
list_0 = []
list_file = []
flag = []
filename = os.listdir('F:\工作\比赛\未来杯\image_scene_training\data')
af = pd.read_excel('19.xlsx')
ww = af.values.tolist()
for i in ww:
  for j in i:
    list_0.append(j)
for name in filename:
  list_file.append(name[0:-4])
 
for name in list_file:
  if name in list_0:
    flag.append(True)
  else:
    flag.append(False)
 
for name in list_file:
  if flag[list_file.index(name)]:
    oldname = u'F:\工作\比赛\未来杯\image_scene_training\data\\'+name+'.jpg'
    newname = u'F:\工作\比赛\未来杯\image_scene_training\\train_data\\beach\\'+name+'.jpg'
    shutil.copyfile(oldname,newname)

unicodeDecodeError:'utf-8' codec can't decode byte 0xce in position 72: invalid continuation byte

1:升级pip python -m pip install --upgrade pip

2:改python文件内容:找到lib\site-packages\pip\compat\__init__.py

return s.decode('utf-8')

将‘utf-8'改成'gbk'

以上这篇python 实现读取csv数据,分类求和 再写进 csv就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python ZipFile模块详解
Nov 01 Python
零基础学Python(一)Python环境安装
Aug 20 Python
python错误:AttributeError: 'module' object has no attribute 'setdefaultencoding'问题的解决方法
Aug 22 Python
Python简单实现自动删除目录下空文件夹的方法
Aug 29 Python
python 全局变量的import机制介绍
Sep 07 Python
Python openpyxl 遍历所有sheet 查找特定字符串的方法
Dec 10 Python
python爬虫之爬取百度音乐的实现方法
Aug 24 Python
详解django中Template语言
Feb 22 Python
python中使用input()函数获取用户输入值方式
May 03 Python
python使用scapy模块实现ping扫描的过程详解
Jan 21 Python
python爬取youtube视频的示例代码
Mar 03 Python
Python开发五子棋小游戏
May 02 Python
python 实现分组求和与分组累加求和代码
May 18 #Python
Django ORM实现按天获取数据去重求和例子
May 18 #Python
如何实现更换Jupyter Notebook内核Python版本
May 18 #Python
python mysql自增字段AUTO_INCREMENT值的修改方式
May 18 #Python
Pycharm安装并配置jupyter notebook的实现
May 18 #Python
Django中的AutoField字段使用
May 18 #Python
jupyter notebook运行命令显示[*](解决办法)
May 18 #Python
You might like
模仿OSO的论坛(二)
2006/10/09 PHP
如何用php生成扭曲及旋转的验证码图片
2013/06/07 PHP
PHP图片上传代码
2013/11/04 PHP
PHP基于cookie与session统计网站访问量并输出显示的方法
2016/01/15 PHP
PHP实现对二维数组某个键排序的方法
2016/09/14 PHP
在Firefox下js select标签点击无法弹出
2014/03/06 Javascript
网页右下角弹出窗体实现代码
2014/06/05 Javascript
javascript学习笔记(二)数组和对象部分
2014/09/30 Javascript
js实现带按钮的上下滚动效果
2015/05/12 Javascript
javascript实现手机震动API代码
2015/08/05 Javascript
js实现select跳转菜单新窗口效果代码分享(超简单)
2015/08/21 Javascript
jQuery EasyUI基础教程之EasyUI常用组件(推荐)
2016/07/15 Javascript
详细解读Jquery各Ajax函数($.get(),$.post(),$.ajax(),$.getJSON())
2016/08/15 Javascript
Nodejs高扩展性的模板引擎 functmpl简介
2017/02/13 NodeJs
微信小程序 支付功能(前端)的实现
2017/05/24 Javascript
详解基于Koa2开发微信二维码扫码支付相关流程
2018/05/16 Javascript
微信小程序中使用ECharts 异步加载数据实现图表功能
2018/07/13 Javascript
Python的包管理器pip更换软件源的方法详解
2016/06/20 Python
详解Python自建logging模块
2018/01/29 Python
python实现12306抢票及自动邮件发送提醒付款功能
2018/03/08 Python
Tensorflow卷积神经网络实例
2018/05/24 Python
python中把元组转换为namedtuple方法
2020/12/09 Python
一款利用纯css3实现的360度翻转按钮的实例教程
2014/11/05 HTML / CSS
使用数据结构给女朋友写个Html5走迷宫游戏
2019/11/26 HTML / CSS
DHC美国官网:日本通信销售第一的化妆品品牌
2017/11/12 全球购物
宝拉珍选美国官网:Paula’s Choice美国
2018/01/07 全球购物
Tomcat中怎么使用log4j输出所有的log
2016/07/07 面试题
日语翻译个人求职的自我评价
2013/10/14 职场文书
班队活动设计方案
2014/01/30 职场文书
机关节能减排实施方案
2014/03/17 职场文书
销售队伍口号
2014/06/11 职场文书
婚前财产协议书范本
2014/10/19 职场文书
学生检讨书范文
2014/10/30 职场文书
2014年人事部工作总结
2014/12/03 职场文书
pytorch 如何使用float64训练
2021/05/24 Python
pyqt5蒙版遮罩mask,setmask的使用
2021/06/11 Python