利用numpy和pandas处理csv文件中的时间方法


Posted in Python onApril 19, 2018

环境:numpy,pandas,python3

在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。

date (UTC) Price 
01/01/2015 0:00 48.1 
01/01/2015 1:00 47.33 
01/01/2015 2:00 42.27
#coding:utf-8
import datetime
import pandas as pd
import numpy as np
import pickle
#用pandas将时间转为标准格式
dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%Y %H:%M')
#将时间栏合并,并转为标准时间格式
rawdata = pd.read_csv('RealMarketPriceDataPT.csv',parse_dates={'timeline':['date','(UTC)']},date_parser=dateparse)
#定义一个将时间转为数字的函数,s为字符串
def datestr2num(s):
 #toordinal()将时间格式字符串转为数字
 return datetime.datetime.strptime(s,'%Y-%m-%d %H:%M:%S').toordinal()
x = []
y = []
new_date = []
for i in range(rawdata.shape[0]):
 x_convert = int(datestr2num(str(rawdata.ix[i,0])))
 new_date.append(x_convert)
 y_convert = rawdata.ix[i,1].astype(np.float32)
 x.append(x_convert)
 y.append(y_convert)
x = np.array(x).astype(np.float32)
"""
with open('price.pickle','wb') as f:
 pickle.dump((x,y),f)
"""
print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0])
print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10])
print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20])
print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30])
print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40])
print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])

结果

将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型

利用numpy和pandas处理csv文件中的时间方法

以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
在Django框架中编写Context处理器的方法
Jul 20 Python
python监控文件或目录变化
Jun 07 Python
python使用tensorflow保存、加载和使用模型的方法
Jan 31 Python
每天迁移MySQL历史数据到历史库Python脚本
Apr 13 Python
numpy.transpose对三维数组的转置方法
Apr 17 Python
django 多数据库配置教程
May 30 Python
python通过tcp发送xml报文的方法
Dec 28 Python
python重试装饰器的简单实现方法
Jan 31 Python
Python创建空列表的字典2种方法详解
Feb 13 Python
PyCharm 无法 import pandas 程序卡住的解决方式
Mar 09 Python
Python爬虫之爬取淘女郎照片示例详解
Jul 28 Python
Python模拟键盘输入自动登录TGP
Nov 27 Python
Python处理CSV与List的转换方法
Apr 19 #Python
python3+PyQt5重新实现QT事件处理程序
Apr 19 #Python
python3+PyQt5重新实现自定义数据拖放处理
Apr 19 #Python
python之从文件读取数据到list的实例讲解
Apr 19 #Python
python实现读取大文件并逐行写入另外一个文件
Apr 19 #Python
python按行读取文件,去掉每行的换行符\n的实例
Apr 19 #Python
PyQt5每天必学之拖放事件
Aug 27 #Python
You might like
ajax实现无刷新分页(php)
2010/07/18 PHP
php读取txt文件并将数据插入到数据库
2016/02/23 PHP
Yii使用DeleteAll连表删除出现报错问题的解决方法
2016/07/14 PHP
php技巧小结【推荐】
2017/01/19 PHP
CakePHP框架Model关联对象用法分析
2017/08/04 PHP
解析Jquery取得iframe中元素的几种方法
2013/07/04 Javascript
JavaScript中检测变量是否存在遇到的一些问题
2013/11/11 Javascript
javascript记录文本框内文字个数检测文字个数变化
2014/10/14 Javascript
javascript鼠标右键菜单自定义效果
2020/12/08 Javascript
node.js实现端口转发
2016/04/14 Javascript
清除浏览器缓存的几种方法总结(必看)
2016/12/09 Javascript
package.json文件配置详解
2017/06/15 Javascript
vue cli构建的项目中请求代理与项目打包问题
2018/02/26 Javascript
vue给组件传递不同的值方法
2018/09/29 Javascript
uni-app使用微信小程序云函数的步骤示例
2020/05/22 Javascript
通过实例解析chrome如何在mac环境中安装vue-devtools插件
2020/07/10 Javascript
Python中使用md5sum检查目录中相同文件代码分享
2015/02/02 Python
Python中生成器和yield语句的用法详解
2015/04/17 Python
Python中类的初始化特殊方法
2017/12/01 Python
python DataFrame获取行数、列数、索引及第几行第几列的值方法
2018/04/08 Python
python实现根据指定字符截取对应的行的内容方法
2018/10/23 Python
Python字符串逆序的实现方法【一题多解】
2019/02/18 Python
Pandas之排序函数sort_values()的实现
2019/07/09 Python
python高阶函数map()和reduce()实例解析
2020/03/16 Python
Python导入模块包原理及相关注意事项
2020/03/25 Python
PyTorch中torch.tensor与torch.Tensor的区别详解
2020/05/18 Python
利用python对mysql表做全局模糊搜索并分页实例
2020/07/12 Python
如何用用Python将地址标记在地图上
2021/02/07 Python
英国在线泳装店:Simply Swim
2019/05/05 全球购物
如果让你测试一台高速激光打印机,你都会进行哪些测试
2012/12/04 面试题
浙大毕业生自荐信
2014/01/26 职场文书
合作协议书范文
2014/08/20 职场文书
群教个人对照检查材料
2014/08/20 职场文书
基层党员对照检查材料
2014/08/25 职场文书
关于读书的演讲稿300字
2014/08/27 职场文书
VS2019连接MySQL数据库的过程及常见问题总结
2021/11/27 MySQL