python 实现读取csv数据,分类求和 再写进 csv


Posted in Python onMay 18, 2020

这两天在测试过程中,遇到这样的问题:

数据量很大,一份csv文件的数据与另外一个文件的数据进行对比,但是csv中的文件数据量很大,并且进行统计 ,如果手动单个去对比,会很花时间,吃力不讨好,还容易出错。

比如说,这样的数据

python 实现读取csv数据,分类求和 再写进 csv

需要对AskPrice值相同对应的AskQuantity 统计出来。

直接上脚本 :

import pandas as pd
import csv
df=pd.read_csv('D:\test\orderBook.csv')
df_sum = df.groupby('AskPrice')['AskQuantity'].sum() 
df_sum.to_csv('D:\test\orderBook2.csv')

然后运行得到:

python 实现读取csv数据,分类求和 再写进 csv

这对于大数据量的处理特别方便。

补充知识:python处理csv文件(场景分类)

最近做一个关于场景分类的比赛,总共有20类,不到2万张图片,首先要做的就是把20类图片分到每个文件夹下。

import numpy as np
import os
import xlrd
import pandas as pd
import shutil
list_0 = []
list_file = []
flag = []
filename = os.listdir('F:\工作\比赛\未来杯\image_scene_training\data')
af = pd.read_excel('19.xlsx')
ww = af.values.tolist()
for i in ww:
  for j in i:
    list_0.append(j)
for name in filename:
  list_file.append(name[0:-4])
 
for name in list_file:
  if name in list_0:
    flag.append(True)
  else:
    flag.append(False)
 
for name in list_file:
  if flag[list_file.index(name)]:
    oldname = u'F:\工作\比赛\未来杯\image_scene_training\data\\'+name+'.jpg'
    newname = u'F:\工作\比赛\未来杯\image_scene_training\\train_data\\beach\\'+name+'.jpg'
    shutil.copyfile(oldname,newname)

unicodeDecodeError:'utf-8' codec can't decode byte 0xce in position 72: invalid continuation byte

1:升级pip python -m pip install --upgrade pip

2:改python文件内容:找到lib\site-packages\pip\compat\__init__.py

return s.decode('utf-8')

将‘utf-8'改成'gbk'

以上这篇python 实现读取csv数据,分类求和 再写进 csv就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
在Python中操作文件之seek()方法的使用教程
May 24 Python
python迭代器与生成器详解
Mar 10 Python
python3实现抓取网页资源的 N 种方法
May 02 Python
Python cookbook(数据结构与算法)保存最后N个元素的方法
Feb 13 Python
python使用生成器实现可迭代对象
Mar 20 Python
Python中关键字global和nonlocal的区别详解
Sep 03 Python
Python操作mongodb数据库的方法详解
Dec 08 Python
Python使用folium excel绘制point
Jan 03 Python
PYTHON绘制雷达图代码实例
Oct 15 Python
PyCharm 2020 激活到 2100 年的教程
Mar 25 Python
Django 权限管理(permissions)与用户组(group)详解
Nov 30 Python
使用python+pygame开发消消乐游戏附完整源码
Jun 10 Python
python 实现分组求和与分组累加求和代码
May 18 #Python
Django ORM实现按天获取数据去重求和例子
May 18 #Python
如何实现更换Jupyter Notebook内核Python版本
May 18 #Python
python mysql自增字段AUTO_INCREMENT值的修改方式
May 18 #Python
Pycharm安装并配置jupyter notebook的实现
May 18 #Python
Django中的AutoField字段使用
May 18 #Python
jupyter notebook运行命令显示[*](解决办法)
May 18 #Python
You might like
通过文字传递创建的图形按钮
2006/10/09 PHP
PHP CKEditor 上传图片实现代码
2009/11/06 PHP
无需重新编译php加入ftp扩展的解决方法
2013/02/07 PHP
改写ThinkPHP的U方法使其路由下分页正常
2014/07/02 PHP
thinkphp5.0自定义验证规则使用方法
2017/11/16 PHP
laravel框架学习笔记之组件化开发实现方法
2020/02/01 PHP
laravel框架select2多选插件初始化默认选中项操作示例
2020/02/18 PHP
javascript 出生日期和身份证判断大全
2008/11/13 Javascript
模仿jQuery each函数的链式调用
2009/07/22 Javascript
jQuery插件MixItUp实现动画过滤和排序
2015/04/12 Javascript
JavaScript中pop()方法的使用教程
2015/06/09 Javascript
详解JavaScript数组的操作大全
2015/10/19 Javascript
Jquery 效果使用详解
2015/11/23 Javascript
JavaScript开发Chrome浏览器扩展程序UI的教程
2016/05/16 Javascript
React Native如何消除启动时白屏的方法
2017/08/08 Javascript
vue+element-ui+ajax实现一个表格的实例
2018/03/09 Javascript
jQuery zTree插件快速实现目录树
2019/08/16 jQuery
Vue v-model组件封装(类似弹窗组件)
2020/01/08 Javascript
JavaScript运行机制实例分析
2020/04/11 Javascript
[01:34]2016国际邀请赛中国区预选赛IG战队教练采访
2016/06/27 DOTA
python字符串str和字节数组相互转化方法
2017/03/18 Python
浅谈Python的list中的选取范围
2018/11/12 Python
对python 命令的-u参数详解
2018/12/03 Python
CSS3中background-clip和background-origin的区别示例介绍
2014/03/10 HTML / CSS
日本小田急百货官网:Odakyu
2018/07/19 全球购物
Noon埃及:埃及在线购物
2019/11/26 全球购物
Bath & Body Works阿联酋:在线购买沐浴和身体用品
2021/02/27 全球购物
服装销售人员求职自我评价
2013/09/26 职场文书
教师教学评估方案
2014/05/09 职场文书
2015年教师新年寄语
2014/12/08 职场文书
运动会3000米加油稿
2015/07/21 职场文书
关爱留守儿童主题班会
2015/08/13 职场文书
《葡萄沟》教学反思
2016/02/23 职场文书
Python基础之教你怎么在M1系统上使用pandas
2021/05/08 Python
python标准库ElementTree处理xml
2022/05/20 Python
Vue3实现简易音乐播放器组件
2022/08/14 Vue.js