利用numpy和pandas处理csv文件中的时间方法


Posted in Python onApril 19, 2018

环境:numpy,pandas,python3

在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。

date (UTC) Price 
01/01/2015 0:00 48.1 
01/01/2015 1:00 47.33 
01/01/2015 2:00 42.27
#coding:utf-8
import datetime
import pandas as pd
import numpy as np
import pickle
#用pandas将时间转为标准格式
dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%Y %H:%M')
#将时间栏合并,并转为标准时间格式
rawdata = pd.read_csv('RealMarketPriceDataPT.csv',parse_dates={'timeline':['date','(UTC)']},date_parser=dateparse)
#定义一个将时间转为数字的函数,s为字符串
def datestr2num(s):
 #toordinal()将时间格式字符串转为数字
 return datetime.datetime.strptime(s,'%Y-%m-%d %H:%M:%S').toordinal()
x = []
y = []
new_date = []
for i in range(rawdata.shape[0]):
 x_convert = int(datestr2num(str(rawdata.ix[i,0])))
 new_date.append(x_convert)
 y_convert = rawdata.ix[i,1].astype(np.float32)
 x.append(x_convert)
 y.append(y_convert)
x = np.array(x).astype(np.float32)
"""
with open('price.pickle','wb') as f:
 pickle.dump((x,y),f)
"""
print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0])
print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10])
print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20])
print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30])
print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40])
print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])

结果

将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型

利用numpy和pandas处理csv文件中的时间方法

以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python random模块常用方法
Nov 03 Python
Python lxml模块安装教程
Jun 02 Python
python使用KNN算法手写体识别
Feb 01 Python
django中静态文件配置static的方法
May 20 Python
python自动化测试之如何解析excel文件
Jun 27 Python
python中for循环把字符串或者字典添加到列表的方法
Jul 20 Python
Django实现auth模块下的登录注册与注销功能
Oct 10 Python
Python hashlib常见摘要算法详解
Jan 13 Python
解决TensorFlow程序无限制占用GPU的方法
Jun 30 Python
keras实现VGG16 CIFAR10数据集方式
Jul 07 Python
Python如何把字典写入到CSV文件的方法示例
Aug 23 Python
Python约瑟夫生者死者小游戏实例讲解
Jan 04 Python
Python处理CSV与List的转换方法
Apr 19 #Python
python3+PyQt5重新实现QT事件处理程序
Apr 19 #Python
python3+PyQt5重新实现自定义数据拖放处理
Apr 19 #Python
python之从文件读取数据到list的实例讲解
Apr 19 #Python
python实现读取大文件并逐行写入另外一个文件
Apr 19 #Python
python按行读取文件,去掉每行的换行符\n的实例
Apr 19 #Python
PyQt5每天必学之拖放事件
Aug 27 #Python
You might like
PHP轻量级数据库操作类Medoo增加、删除、修改、查询例子
2014/07/04 PHP
php中strstr、strrchr、substr、stristr四个函数的区别总结
2014/09/22 PHP
php生成验证码,缩略图及水印图的类分享
2016/04/07 PHP
php实现给二维数组中所有一维数组添加值的方法
2017/02/04 PHP
JS学习之一个简易的日历控件
2010/03/24 Javascript
JS获取select-option-text_value的方法
2013/12/26 Javascript
一个简单的jQuery计算器实现了连续计算功能
2014/07/21 Javascript
JS特效实现图片自动播放并可控的效果
2015/07/31 Javascript
jQuery实现网页顶部固定导航效果代码
2015/12/24 Javascript
原生js制作日历控件实例分享
2016/04/06 Javascript
jQuery学习心得总结(必看篇)
2016/06/10 Javascript
聊一聊JS中this的指向问题
2016/06/17 Javascript
移动适配的几种方案(三种方案)
2016/11/25 Javascript
Node.js中process模块常用的属性和方法
2016/12/13 Javascript
JavaScript实现同一个页面打开多张图片
2016/12/29 Javascript
jquery实现超简单的瀑布流布局【推荐】
2017/03/08 Javascript
win系统下nodejs环境安装配置
2017/05/04 NodeJs
在Js页面通过POST传递参数跳转到新页面详解
2017/08/25 Javascript
Nodejs 发布自己的npm包并制作成命令行工具的实例讲解
2018/05/15 NodeJs
在Vue中使用icon 字体图标的方法
2019/06/14 Javascript
Node.js实现批量下载图片简单操作示例
2020/01/18 Javascript
js实现踩五彩块游戏
2020/02/08 Javascript
JS表单验证插件之数据与逻辑分离操作实例分析【策略模式】
2020/05/01 Javascript
Js图片点击切换轮播实现代码
2020/07/27 Javascript
jQuery实现简单轮播图效果
2020/12/27 jQuery
零基础写python爬虫之爬虫编写全记录
2014/11/06 Python
django使用xadmin的全局配置详解
2019/11/15 Python
Python基于requests库爬取网站信息
2020/03/02 Python
Python grequests模块使用场景及代码实例
2020/08/10 Python
班主任评语大全
2014/04/26 职场文书
红领巾广播站广播稿(3篇)
2014/09/20 职场文书
大专毕业生自我鉴定范文(2篇)
2014/09/27 职场文书
监察局领导班子四风问题整改措施思想汇报
2014/10/05 职场文书
汉语拼音教学反思
2016/02/22 职场文书
留学文书中的个人陈述,应该注意哪些问题?
2019/08/23 职场文书
Python还能这么玩之用Python做个小游戏的外挂
2021/06/04 Python