利用numpy和pandas处理csv文件中的时间方法


Posted in Python onApril 19, 2018

环境:numpy,pandas,python3

在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。

date (UTC) Price 
01/01/2015 0:00 48.1 
01/01/2015 1:00 47.33 
01/01/2015 2:00 42.27
#coding:utf-8
import datetime
import pandas as pd
import numpy as np
import pickle
#用pandas将时间转为标准格式
dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%Y %H:%M')
#将时间栏合并,并转为标准时间格式
rawdata = pd.read_csv('RealMarketPriceDataPT.csv',parse_dates={'timeline':['date','(UTC)']},date_parser=dateparse)
#定义一个将时间转为数字的函数,s为字符串
def datestr2num(s):
 #toordinal()将时间格式字符串转为数字
 return datetime.datetime.strptime(s,'%Y-%m-%d %H:%M:%S').toordinal()
x = []
y = []
new_date = []
for i in range(rawdata.shape[0]):
 x_convert = int(datestr2num(str(rawdata.ix[i,0])))
 new_date.append(x_convert)
 y_convert = rawdata.ix[i,1].astype(np.float32)
 x.append(x_convert)
 y.append(y_convert)
x = np.array(x).astype(np.float32)
"""
with open('price.pickle','wb') as f:
 pickle.dump((x,y),f)
"""
print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0])
print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10])
print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20])
print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30])
print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40])
print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])

结果

将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型

利用numpy和pandas处理csv文件中的时间方法

以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python3.x版本中新的字符串格式化方法
Apr 24 Python
Python实现修改IE注册表功能示例
May 10 Python
python实现自动网页截图并裁剪图片
Jul 30 Python
使用tensorflow实现线性svm
Sep 07 Python
Python嵌套式数据结构实例浅析
Mar 05 Python
python基于paramiko将文件上传到服务器代码实现
Jul 08 Python
python从内存地址上加载python对象过程详解
Jan 08 Python
基于Python共轭梯度法与最速下降法之间的对比
Apr 02 Python
Pytest框架之fixture的详细使用教程
Apr 07 Python
python3从网络摄像机解析mjpeg http流的示例
Nov 13 Python
PyCharm最新激活码PyCharm2020.2.3有效
Nov 18 Python
python3 os进行嵌套操作的实例讲解
Nov 19 Python
Python处理CSV与List的转换方法
Apr 19 #Python
python3+PyQt5重新实现QT事件处理程序
Apr 19 #Python
python3+PyQt5重新实现自定义数据拖放处理
Apr 19 #Python
python之从文件读取数据到list的实例讲解
Apr 19 #Python
python实现读取大文件并逐行写入另外一个文件
Apr 19 #Python
python按行读取文件,去掉每行的换行符\n的实例
Apr 19 #Python
PyQt5每天必学之拖放事件
Aug 27 #Python
You might like
PHP 远程文件管理,可以给表格排序,遍历目录,时间排序
2009/08/07 PHP
PHP多例模式介绍
2013/06/24 PHP
php不允许用户提交空表单(php空值判断)
2013/11/12 PHP
PHP结合Mysql数据库实现留言板功能
2016/03/04 PHP
py文件转exe时包含paramiko模块出错解决方法
2016/08/12 PHP
PHP7扩展开发教程之Hello World实现方法示例
2017/08/03 PHP
bindParam和bindValue的区别以及在Yii2中的使用详解
2018/03/12 PHP
TP3.2.3框架文件上传操作实例详解
2020/01/23 PHP
javascript 文章截取部分无损html显示实现代码
2010/05/04 Javascript
使用js写的一个简易的投票
2013/11/27 Javascript
JS操作CSS随机改变网页背景实现思路
2014/03/10 Javascript
jQuery scroll事件实现监控滚动条分页示例
2014/04/04 Javascript
js控制输入框获得和失去焦点时状态显示的方法
2015/01/30 Javascript
基于javascript实现仿百度输入框自动匹配功能
2016/01/03 Javascript
bootstrap table 表格中增加下拉菜单末行出现滚动条的快速解决方法
2017/01/05 Javascript
js基于myFocus实现轮播图效果
2017/02/14 Javascript
jquery表单验证实例仿Toast提示效果
2017/03/03 Javascript
weui框架实现上传、预览和删除图片功能代码
2017/08/24 Javascript
微信小程序实现表单校验功能
2020/03/30 Javascript
JS非行间样式获取函数的实例代码
2018/06/05 Javascript
vuex管理状态 刷新页面保持不被清空的解决方案
2019/11/11 Javascript
Vue 按照创建时间和当前时间显示操作(刚刚,几小时前,几天前)
2020/09/10 Javascript
Vue +WebSocket + WaveSurferJS 实现H5聊天对话交互的实例
2020/11/18 Vue.js
win7下python3.6安装配置方法图文教程
2018/07/31 Python
Python requests模块cookie实例解析
2020/04/14 Python
Python startswith()和endswith() 方法原理解析
2020/04/28 Python
彪马香港官方网上商店:PUMA香港
2020/12/06 全球购物
科长竞聘演讲稿
2014/05/16 职场文书
离婚协议书范本样本
2014/08/19 职场文书
高中课前三分钟演讲稿
2014/09/13 职场文书
党员个人剖析材料(四风问题)
2014/10/07 职场文书
ktv服务员岗位职责
2015/02/09 职场文书
银行先进个人总结
2015/02/15 职场文书
文明旅游倡议书
2015/04/28 职场文书
党校团干班培训心得体会
2016/01/06 职场文书
go语言-在mac下brew升级golang
2021/04/25 Golang