利用numpy和pandas处理csv文件中的时间方法


Posted in Python onApril 19, 2018

环境:numpy,pandas,python3

在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。

date (UTC) Price 
01/01/2015 0:00 48.1 
01/01/2015 1:00 47.33 
01/01/2015 2:00 42.27
#coding:utf-8
import datetime
import pandas as pd
import numpy as np
import pickle
#用pandas将时间转为标准格式
dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%Y %H:%M')
#将时间栏合并,并转为标准时间格式
rawdata = pd.read_csv('RealMarketPriceDataPT.csv',parse_dates={'timeline':['date','(UTC)']},date_parser=dateparse)
#定义一个将时间转为数字的函数,s为字符串
def datestr2num(s):
 #toordinal()将时间格式字符串转为数字
 return datetime.datetime.strptime(s,'%Y-%m-%d %H:%M:%S').toordinal()
x = []
y = []
new_date = []
for i in range(rawdata.shape[0]):
 x_convert = int(datestr2num(str(rawdata.ix[i,0])))
 new_date.append(x_convert)
 y_convert = rawdata.ix[i,1].astype(np.float32)
 x.append(x_convert)
 y.append(y_convert)
x = np.array(x).astype(np.float32)
"""
with open('price.pickle','wb') as f:
 pickle.dump((x,y),f)
"""
print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0])
print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10])
print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20])
print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30])
print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40])
print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])

结果

将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型

利用numpy和pandas处理csv文件中的时间方法

以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
用Python展示动态规则法用以解决重叠子问题的示例
Apr 02 Python
Python字符串处理函数简明总结
Apr 13 Python
JSONLINT:python的json数据验证库实例解析
Nov 28 Python
Python爬取当当、京东、亚马逊图书信息代码实例
Dec 09 Python
python实现远程通过网络邮件控制计算机重启或关机
Feb 22 Python
Python3中内置类型bytes和str用法及byte和string之间各种编码转换 问题
Sep 27 Python
对python遍历文件夹中的所有jpg文件的实例详解
Dec 08 Python
Python集中化管理平台Ansible介绍与YAML简介
Jun 12 Python
python实现串口自动触发工作的示例
Jul 02 Python
通过实例解析python and和or使用方法
Nov 14 Python
Python读取ini配置文件传参的简单示例
Jan 05 Python
Django项目配置Memcached和Redis, 缓存选择哪个更有优势
Apr 06 Python
Python处理CSV与List的转换方法
Apr 19 #Python
python3+PyQt5重新实现QT事件处理程序
Apr 19 #Python
python3+PyQt5重新实现自定义数据拖放处理
Apr 19 #Python
python之从文件读取数据到list的实例讲解
Apr 19 #Python
python实现读取大文件并逐行写入另外一个文件
Apr 19 #Python
python按行读取文件,去掉每行的换行符\n的实例
Apr 19 #Python
PyQt5每天必学之拖放事件
Aug 27 #Python
You might like
实用函数3
2007/11/08 PHP
PHP模版引擎原理、定义与用法实例
2019/03/29 PHP
Javascript里使用Dom操作Xml
2006/09/20 Javascript
iframe 异步加载技术及性能分析
2011/07/19 Javascript
JavaScript中去掉数组中的重复值的实现方法
2011/08/03 Javascript
js中函数调用的两种常用方法使用介绍
2014/07/17 Javascript
JavaScript简介
2015/02/15 Javascript
javascript编写贪吃蛇游戏
2015/07/07 Javascript
基于JavaScript实现添加到购物车效果附源码下载
2016/08/22 Javascript
bootstrap提示标签、提示框实现代码
2016/12/28 Javascript
jquery mobile移动端幻灯片滑动切换效果
2020/04/15 Javascript
100多个基础常用JS函数和语法集合大全
2017/02/16 Javascript
微信小程序 实现列表项滑动显示删除按钮的功能
2017/04/13 Javascript
js实现轮播图的完整代码
2020/10/26 Javascript
javascript动态创建对象的属性详解
2018/11/07 Javascript
js时间转换毫秒的实例代码
2019/08/21 Javascript
解析JS在获取当前月的最后一天遇到的坑
2019/08/30 Javascript
Vue.set 全局操作简单示例
2019/09/19 Javascript
Vue微信公众号网页分享的示例代码
2020/05/28 Javascript
浅析JavaScript中的事件委托机制跟深浅拷贝
2021/01/20 Javascript
[03:42]2014DOTA2西雅图国际邀请赛 Navi战队巡礼
2014/07/07 DOTA
打开电脑上的QQ的python代码
2013/02/10 Python
Python3基础之基本运算符概述
2014/08/13 Python
基于Python的接口测试框架实例
2016/11/04 Python
Python多重继承之菱形继承的实例详解
2020/02/12 Python
如何用Python提取10000份log中的产品信息
2021/01/14 Python
Python如何telnet到网络设备
2021/02/18 Python
用CSS3实现背景渐变的方法
2015/07/14 HTML / CSS
国际贸易毕业生求职信范文
2014/02/21 职场文书
《悯农》教学反思
2014/04/28 职场文书
小学综合实践活动总结
2014/07/07 职场文书
2015年教师业务工作总结
2015/05/26 职场文书
同学聚会祝酒词
2015/08/10 职场文书
Python获取江苏疫情实时数据及爬虫分析
2021/08/02 Python
排查并解决Oracle sysaux表空间异常增长
2022/04/20 Oracle
人工智能深度学习OpenAI baselines的使用方法
2022/05/20 Python