python 实现读取csv数据,分类求和 再写进 csv


Posted in Python onMay 18, 2020

这两天在测试过程中,遇到这样的问题:

数据量很大,一份csv文件的数据与另外一个文件的数据进行对比,但是csv中的文件数据量很大,并且进行统计 ,如果手动单个去对比,会很花时间,吃力不讨好,还容易出错。

比如说,这样的数据

python 实现读取csv数据,分类求和 再写进 csv

需要对AskPrice值相同对应的AskQuantity 统计出来。

直接上脚本 :

import pandas as pd
import csv
df=pd.read_csv('D:\test\orderBook.csv')
df_sum = df.groupby('AskPrice')['AskQuantity'].sum() 
df_sum.to_csv('D:\test\orderBook2.csv')

然后运行得到:

python 实现读取csv数据,分类求和 再写进 csv

这对于大数据量的处理特别方便。

补充知识:python处理csv文件(场景分类)

最近做一个关于场景分类的比赛,总共有20类,不到2万张图片,首先要做的就是把20类图片分到每个文件夹下。

import numpy as np
import os
import xlrd
import pandas as pd
import shutil
list_0 = []
list_file = []
flag = []
filename = os.listdir('F:\工作\比赛\未来杯\image_scene_training\data')
af = pd.read_excel('19.xlsx')
ww = af.values.tolist()
for i in ww:
  for j in i:
    list_0.append(j)
for name in filename:
  list_file.append(name[0:-4])
 
for name in list_file:
  if name in list_0:
    flag.append(True)
  else:
    flag.append(False)
 
for name in list_file:
  if flag[list_file.index(name)]:
    oldname = u'F:\工作\比赛\未来杯\image_scene_training\data\\'+name+'.jpg'
    newname = u'F:\工作\比赛\未来杯\image_scene_training\\train_data\\beach\\'+name+'.jpg'
    shutil.copyfile(oldname,newname)

unicodeDecodeError:'utf-8' codec can't decode byte 0xce in position 72: invalid continuation byte

1:升级pip python -m pip install --upgrade pip

2:改python文件内容:找到lib\site-packages\pip\compat\__init__.py

return s.decode('utf-8')

将‘utf-8'改成'gbk'

以上这篇python 实现读取csv数据,分类求和 再写进 csv就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python 获取本机ip地址的两个方法
Feb 25 Python
Python基类函数的重载与调用实例分析
Jan 12 Python
Python通过递归遍历出集合中所有元素的方法
Feb 25 Python
python使用点操作符访问字典(dict)数据的方法
Mar 16 Python
python cx_Oracle模块的安装和使用详细介绍
Feb 13 Python
python实现拓扑排序的基本教程
Mar 11 Python
利用python-pypcap抓取带VLAN标签的数据包方法
Jul 23 Python
Python GUI库PyQt5样式QSS子控件介绍
Feb 25 Python
TensorFlow tf.nn.softmax_cross_entropy_with_logits的用法
Apr 19 Python
Python爬虫UA伪装爬取的实例讲解
Feb 19 Python
tensorflow学习笔记之tfrecord文件的生成与读取
Mar 31 Python
python实现监听键盘
Apr 26 Python
python 实现分组求和与分组累加求和代码
May 18 #Python
Django ORM实现按天获取数据去重求和例子
May 18 #Python
如何实现更换Jupyter Notebook内核Python版本
May 18 #Python
python mysql自增字段AUTO_INCREMENT值的修改方式
May 18 #Python
Pycharm安装并配置jupyter notebook的实现
May 18 #Python
Django中的AutoField字段使用
May 18 #Python
jupyter notebook运行命令显示[*](解决办法)
May 18 #Python
You might like
腾讯QQ微博API接口获取微博内容
2013/10/30 PHP
利用PHP生成静态html页面的原理
2016/09/30 PHP
详解thinkphp5+swoole实现异步邮件群发(SMTP方式)
2017/10/13 PHP
PHP微信开发之微信录音临时转永久存储
2018/01/26 PHP
php+mysql实现的无限分类方法类定义与使用示例
2020/05/27 PHP
jQuery 相关控件的事件操作分解
2009/08/03 Javascript
javascript权威指南 学习笔记之变量作用域分享
2011/09/28 Javascript
window.onload追加函数使用示例
2014/03/03 Javascript
JS+CSS实现弹出全屏灰黑色透明遮罩效果的方法
2014/12/20 Javascript
jqueryMobile使用示例分享
2016/01/12 Javascript
Knockoutjs 学习系列(二)花式捆绑
2016/06/07 Javascript
阿里云ecs服务器中安装部署node.js的步骤
2016/10/08 Javascript
原生js实现旋转木马轮播图效果
2017/02/27 Javascript
微信小程序 实现动态显示和隐藏某个控件
2017/04/27 Javascript
JavaScript函数、闭包、原型、面向对象学习笔记
2018/09/06 Javascript
Vue响应式原理Observer、Dep、Watcher理解
2019/06/06 Javascript
详解JWT token心得与使用实例
2019/08/02 Javascript
swiper实现异形轮播效果
2019/11/28 Javascript
用Javascript实现发送短信验证码间隔功能
2021/02/08 Javascript
Python下singleton模式的实现方法
2014/07/16 Python
Python内置数据结构与操作符的练习题集锦
2016/07/01 Python
使用python的pexpect模块,实现远程免密登录的示例
2019/02/14 Python
Python基本类型的连接组合和互相转换方式(13种)
2019/12/16 Python
Python实现FLV视频拼接功能
2020/01/21 Python
Python3自定义http/https请求拦截mitmproxy脚本实例
2020/05/11 Python
pip/anaconda修改镜像源,加快python模块安装速度的操作
2021/03/04 Python
兰芝美国网上商城:购买LANEIGE睡眠面膜等
2017/06/30 全球购物
伊莱克斯阿根廷网上商店:Tienda Electrolux
2021/03/08 全球购物
幼儿园英语教学反思
2014/01/30 职场文书
超市采购员岗位职责
2014/02/01 职场文书
授权委托书协议书
2014/10/16 职场文书
化验员岗位职责
2015/02/14 职场文书
2015年乡镇扶贫工作总结
2015/04/08 职场文书
2015年司机年终工作总结
2015/05/14 职场文书
pytorch中的model.eval()和BN层的使用
2021/05/22 Python
MySQL中一条SQL查询语句是如何执行的
2022/04/08 MySQL