利用numpy和pandas处理csv文件中的时间方法


Posted in Python onApril 19, 2018

环境:numpy,pandas,python3

在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。

date (UTC) Price 
01/01/2015 0:00 48.1 
01/01/2015 1:00 47.33 
01/01/2015 2:00 42.27
#coding:utf-8
import datetime
import pandas as pd
import numpy as np
import pickle
#用pandas将时间转为标准格式
dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%Y %H:%M')
#将时间栏合并,并转为标准时间格式
rawdata = pd.read_csv('RealMarketPriceDataPT.csv',parse_dates={'timeline':['date','(UTC)']},date_parser=dateparse)
#定义一个将时间转为数字的函数,s为字符串
def datestr2num(s):
 #toordinal()将时间格式字符串转为数字
 return datetime.datetime.strptime(s,'%Y-%m-%d %H:%M:%S').toordinal()
x = []
y = []
new_date = []
for i in range(rawdata.shape[0]):
 x_convert = int(datestr2num(str(rawdata.ix[i,0])))
 new_date.append(x_convert)
 y_convert = rawdata.ix[i,1].astype(np.float32)
 x.append(x_convert)
 y.append(y_convert)
x = np.array(x).astype(np.float32)
"""
with open('price.pickle','wb') as f:
 pickle.dump((x,y),f)
"""
print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0])
print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10])
print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20])
print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30])
print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40])
print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])

结果

将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型

利用numpy和pandas处理csv文件中的时间方法

以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python基类函数的重载与调用实例分析
Jan 12 Python
使用优化器来提升Python程序的执行效率的教程
Apr 02 Python
python实现log日志的示例代码
Apr 28 Python
NumPy 数学函数及代数运算的实现代码
Jul 18 Python
python绘制中国大陆人口热力图
Nov 07 Python
pandas把所有大于0的数设置为1的方法
Jan 26 Python
对numpy下的轴交换transpose和swapaxes的示例解读
Jun 26 Python
如何使用Flask-Migrate拓展数据库表结构
Jul 24 Python
Python3多线程版TCP端口扫描器
Aug 31 Python
pytorch masked_fill报错的解决
Feb 18 Python
python爬不同图片分别保存在不同文件夹中的实现
Apr 02 Python
python自动化测试之Selenium详解
Mar 13 Python
Python处理CSV与List的转换方法
Apr 19 #Python
python3+PyQt5重新实现QT事件处理程序
Apr 19 #Python
python3+PyQt5重新实现自定义数据拖放处理
Apr 19 #Python
python之从文件读取数据到list的实例讲解
Apr 19 #Python
python实现读取大文件并逐行写入另外一个文件
Apr 19 #Python
python按行读取文件,去掉每行的换行符\n的实例
Apr 19 #Python
PyQt5每天必学之拖放事件
Aug 27 #Python
You might like
Array of country list in PHP with Zend Framework
2011/10/17 PHP
php中一个有意思的日期逻辑处理
2012/03/25 PHP
让PHP更快的提供文件下载的代码
2012/06/13 PHP
PHP防止post重复提交数据的简单例子
2014/06/07 PHP
PHP生成二维码的两个方法和实例
2014/07/01 PHP
PHP二维数组排序简单实现方法
2016/02/14 PHP
用PHP写的一个冒泡排序法的函数简单实例
2016/05/26 PHP
php常用字符串String函数实例总结【转换,替换,计算,截取,加密】
2016/12/07 PHP
PHP5.5新特性之yield理解与用法实例分析
2019/01/11 PHP
javascript(jquery)利用函数修改全局变量的代码
2009/11/02 Javascript
jQuery 关于伪类选择符的使用说明
2013/04/24 Javascript
jsPDF生成pdf后在网页展示实例
2014/01/16 Javascript
jquery实现的一个文章自定义分段显示功能
2014/05/23 Javascript
分享9个最好用的JavaScript开发工具和代码编辑器
2015/03/24 Javascript
JS for...in 遍历语句用法实例分析
2016/08/24 Javascript
jQuery实现的导航下拉菜单效果示例
2016/09/05 Javascript
vue移动端UI框架实现QQ侧边菜单组件
2018/03/09 Javascript
在NodeJs中使用node-schedule增加定时器任务的方法
2020/06/08 NodeJs
vue $mount 和 el的区别说明
2020/09/11 Javascript
JavaScript字符串转数字的简单实现方法
2020/11/27 Javascript
[01:01:24]DOTA2上海特级锦标赛A组败者赛 EHOME VS CDEC第三局
2016/02/25 DOTA
[50:02]完美世界DOTA2联赛循环赛 Magma vs IO BO2第一场 11.01
2020/11/02 DOTA
在Python下尝试多线程编程
2015/04/28 Python
关于Python元祖,列表,字典,集合的比较
2017/01/06 Python
python实现微信防撤回神器
2019/04/29 Python
一文读懂Python 枚举
2020/08/25 Python
在HTML5中如何使用CSS建立不可选的文字
2014/10/17 HTML / CSS
html5新增的定时器requestAnimationFrame实现进度条功能
2018/12/13 HTML / CSS
Rowdy Gentleman服装和配饰:美好时光
2019/09/24 全球购物
Vans(范斯)新西兰官方网站:美国原创极限运动品牌
2020/09/19 全球购物
人力资源主管岗位职责
2014/01/29 职场文书
酒店节能减排方案
2014/05/26 职场文书
领导干部“四风”问题批评与自我批评材料
2014/09/24 职场文书
2014年中班下学期工作总结
2014/12/11 职场文书
2015年药品销售工作总结范文
2015/05/25 职场文书
高老头读书笔记
2015/06/30 职场文书