利用numpy和pandas处理csv文件中的时间方法


Posted in Python onApril 19, 2018

环境:numpy,pandas,python3

在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。

date (UTC) Price 
01/01/2015 0:00 48.1 
01/01/2015 1:00 47.33 
01/01/2015 2:00 42.27
#coding:utf-8
import datetime
import pandas as pd
import numpy as np
import pickle
#用pandas将时间转为标准格式
dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%Y %H:%M')
#将时间栏合并,并转为标准时间格式
rawdata = pd.read_csv('RealMarketPriceDataPT.csv',parse_dates={'timeline':['date','(UTC)']},date_parser=dateparse)
#定义一个将时间转为数字的函数,s为字符串
def datestr2num(s):
 #toordinal()将时间格式字符串转为数字
 return datetime.datetime.strptime(s,'%Y-%m-%d %H:%M:%S').toordinal()
x = []
y = []
new_date = []
for i in range(rawdata.shape[0]):
 x_convert = int(datestr2num(str(rawdata.ix[i,0])))
 new_date.append(x_convert)
 y_convert = rawdata.ix[i,1].astype(np.float32)
 x.append(x_convert)
 y.append(y_convert)
x = np.array(x).astype(np.float32)
"""
with open('price.pickle','wb') as f:
 pickle.dump((x,y),f)
"""
print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0])
print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10])
print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20])
print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30])
print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40])
print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])

结果

将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型

利用numpy和pandas处理csv文件中的时间方法

以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python实战小程序利用matplotlib模块画图代码分享
Dec 09 Python
Python 循环语句之 while,for语句详解
Apr 23 Python
python基础学习之如何对元组各个元素进行命名详解
Jul 12 Python
Python爬取成语接龙类网站
Oct 19 Python
python中将正则过滤的内容输出写入到文件中的实例
Oct 21 Python
python实现在遍历列表时,直接对dict元素增加字段的方法
Jan 15 Python
使用Python实现将list中的每一项的首字母大写
Jun 11 Python
如何利用Anaconda配置简单的Python环境
Jun 24 Python
python面试题之列表声明实例分析
Jul 08 Python
Python实现代码统计工具
Sep 19 Python
Python 实现向word(docx)中输出
Feb 13 Python
详解Python中__new__方法的作用
Mar 31 Python
Python处理CSV与List的转换方法
Apr 19 #Python
python3+PyQt5重新实现QT事件处理程序
Apr 19 #Python
python3+PyQt5重新实现自定义数据拖放处理
Apr 19 #Python
python之从文件读取数据到list的实例讲解
Apr 19 #Python
python实现读取大文件并逐行写入另外一个文件
Apr 19 #Python
python按行读取文件,去掉每行的换行符\n的实例
Apr 19 #Python
PyQt5每天必学之拖放事件
Aug 27 #Python
You might like
php数组函数序列之asort() - 对数组的元素值进行升序排序,保持索引关系
2011/11/02 PHP
深入理解PHP变量的值类型和引用类型
2015/10/21 PHP
Yii中创建自己的Widget实例
2016/01/05 PHP
PHP截取IE浏览器并缩小原图的方法
2016/03/04 PHP
PHP DB 数据库连接类定义与用法示例
2019/03/11 PHP
Laravel 中使用简单的方法跟踪用户是否在线(推荐)
2019/10/30 PHP
服务端 VBScript 与 JScript 几个相同特性的写法 By shawl.qiu
2007/03/06 Javascript
利用ASP发送和接收XML数据的处理方法与代码
2007/11/13 Javascript
JavaScript获取伪元素(Pseudo-Element)属性的方法技巧
2015/03/13 Javascript
JavaScript实现数字数组正序排列的方法
2015/04/06 Javascript
简介AngularJS中$http服务的用法
2016/02/06 Javascript
Bootstrap精简教程中秋大放送
2016/09/15 Javascript
vue 中filter的多种用法
2018/04/26 Javascript
JS/HTML5游戏常用算法之路径搜索算法 随机迷宫算法详解【普里姆算法】
2018/12/13 Javascript
[09:47]2018DOTA2亚洲邀请赛4.5SOLO赛 No[o]ne vs Sumail
2018/04/06 DOTA
Python黑帽编程 3.4 跨越VLAN详解
2016/09/28 Python
详解Python多线程Selenium跨浏览器测试
2017/04/01 Python
Python实现删除时保留特定文件夹和文件的示例
2018/04/27 Python
Python实现获取邮箱内容并解析的方法示例
2018/06/16 Python
Python3中关于cookie的创建与保存
2018/10/21 Python
Python模块的加载讲解
2019/01/15 Python
Django 博客实现简单的全文搜索的示例代码
2020/02/17 Python
python实现银行实战系统
2020/02/26 Python
Python文件名匹配与文件复制的实现
2020/12/11 Python
CSS3制作炫酷带方向感应的鼠标滑过图片3D动画
2016/03/16 HTML / CSS
css3 flex布局 justify-content:space-between 最后一行左对齐
2020/01/02 HTML / CSS
荷兰手表网站:Watch2Day
2018/07/02 全球购物
芬兰设计商店美国:Finnish Design Shop US
2019/03/25 全球购物
简述数组与指针的区别
2014/01/02 面试题
一年级数学教学反思
2014/02/01 职场文书
就业协议书的作用
2014/04/11 职场文书
副科竞争上岗演讲稿
2014/05/12 职场文书
学习保证书100字
2015/02/26 职场文书
个人工作违纪检讨书
2015/05/05 职场文书
摩登时代观后感
2015/06/03 职场文书
python 爬取豆瓣网页的示例
2021/04/13 Python