pytorch下大型数据集(大型图片)的导入方式


Posted in Python onJanuary 08, 2020

使用torch.utils.data.Dataset类 处理图片数据时,

1. 我们需要定义三个基本的函数,以下是基本流程

class our_datasets(Data.Dataset):
 
  def __init__(self,root,is_resize=False,is_transfrom=False):
    #这里只是个参考。按自己需求写。
    self.root=root
    self.is_resize=is_resize
    self.is_transfrom=is_transfrom
 
    self.imgs_list=...#这里建议保存的是 图片的路径 而不是 图片的数据
    self.labs_list=...
 
  def __getitem__(self, index):
 
    img_path,lab=self.imgs_list[index],self.labs_list[index]
    
    #这里使用PIL库读取图片数据.
    img_data = Image.open(img_path).convert('RGB')
 
    #这里看自己需要,可以不要
    if self.is_resize:
      img_data = img_data.resize((self.is_resize[0], self.is_resize[1]), Image.ANTIALIAS)
    
    #但是数据转换建议加上,很多时候都会用到
    if self.is_transfrom:
      img_data=self.is_transfrom(img_data)
    return img_data,lab
 
  def __len__(self):
 
    return len(self.imgs_list)

这里,我将 读取图片 的步骤 放到 __getitem__ ,是因为 这样放的话,对内存的要求会降低很多,我们只是将数据的路径导入了内存中,当需要读取这个图片数据时,再读取,这样更像是随用随取。如果将这部分放到 __init__ 里面,会一次将 图片数据都加载到 内存中,如果数据量太大,会直接卡死。

2.Dataset 类 返回的数据 类型 是与你读取时的类型一致的。但是在 pytorch使用时,会提示

TypeError: batch must contain tensors, numbers, dicts or lists; found <class 'PIL.Image.Image'>

通常,在数据了不大时,我一般都是在 读取数据后 加一句,转换成 numpy.array类型。

但是,在处理较大型的数据时,这样会很慢。

这时候,我建议 直接使用 torchvision来进行数据转换。

is_transfrom=torchvision.transforms.ToTensor()

将 上例代码 加入 Dataset类中,这样就会快很多。

以上这篇pytorch下大型数据集(大型图片)的导入方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python中星号变量的几种特殊用法
Sep 07 Python
Python连接SQLServer2000的方法详解
Apr 19 Python
django开发教程之利用缓存文件进行页面缓存的方法
Nov 10 Python
Python实现感知器模型、两层神经网络
Dec 19 Python
Django 跨域请求处理的示例代码
May 02 Python
浅析Python 3 字符串中的 STR 和 Bytes 有什么区别
Oct 14 Python
Python字典中的值为列表或字典的构造实例
Dec 16 Python
Python操作Excel把数据分给sheet
May 20 Python
filter使用python3代码进行迭代元素的实例详解
Dec 03 Python
Django显示可视化图表的实践
May 10 Python
Python - 10行代码集2000张美女图
May 23 Python
Python Pandas读取Excel日期数据的异常处理方法
Feb 28 Python
Python 实现训练集、测试集随机划分
Jan 08 #Python
Pyecharts绘制全球流向图的示例代码
Jan 08 #Python
PyTorch 解决Dataset和Dataloader遇到的问题
Jan 08 #Python
使用PyTorch将文件夹下的图片分为训练集和验证集实例
Jan 08 #Python
使用 PyTorch 实现 MLP 并在 MNIST 数据集上验证方式
Jan 08 #Python
Pycharm 2020最新永久激活码(附最新激活码和插件)
Sep 17 #Python
将matplotlib绘图嵌入pyqt的方法示例
Jan 08 #Python
You might like
谈谈PHP语法(3)
2006/10/09 PHP
PHP产生随机字符串函数
2006/12/06 PHP
PHP设计模式之简单工厂和工厂模式实例分析
2019/03/25 PHP
JS 日期验证正则附asp日期格式化函数
2009/09/11 Javascript
Extjs Ext.MessageBox.confirm 确认对话框详解
2010/04/02 Javascript
浅谈JavaScript Array对象
2014/12/29 Javascript
jQuery Easyui使用(一)之可折叠面板的布局手风琴菜单
2016/08/17 Javascript
微信小程序 PHP生成带参数二维码
2017/02/21 Javascript
详解vue嵌套路由-query传递参数
2017/05/23 Javascript
vue-router 导航钩子的具体使用方法
2017/08/31 Javascript
AngularJS实现的select二级联动下拉菜单功能示例
2017/10/25 Javascript
简单了解node npm cnpm的具体使用方法
2019/02/27 Javascript
JS实现返回上一页并刷新页面的方法分析
2019/07/16 Javascript
一看就会的vuex实现登录验证(附案例)
2020/01/09 Javascript
浅析python中SQLAlchemy排序的一个坑
2017/02/24 Python
rabbitmq(中间消息代理)在python中的使用详解
2017/12/14 Python
Python3实现发送QQ邮件功能(文本)
2017/12/15 Python
Python数据处理numpy.median的实例讲解
2018/04/02 Python
Sanic框架应用部署方法详解
2018/07/18 Python
pymongo中group by的操作方法教程
2019/03/22 Python
在Qt中正确的设置窗体的背景图片的几种方法总结
2019/06/19 Python
Python3如何实现Win10桌面自动切换
2020/08/11 Python
基于HTML5陀螺仪实现ofo首页眼睛移动效果的示例
2017/07/31 HTML / CSS
详解HTML5 Canvas标签及基本使用
2020/01/10 HTML / CSS
澳大利亚首个在线预订旅游网站:Wotif
2017/07/19 全球购物
高街生活方式全球在线商店:AZBRO
2017/08/26 全球购物
牵手50台湾:专为黄金岁月的单身人士而设的交友网站
2021/02/18 全球购物
闭幕式主持词
2014/04/02 职场文书
保护母亲河倡议书
2014/04/14 职场文书
手机被没收的检讨书
2014/10/04 职场文书
寝室长工作失责检讨书
2014/10/06 职场文书
见习报告的格式
2014/11/04 职场文书
协议书范文
2015/01/27 职场文书
党员转正党支部意见
2015/06/02 职场文书
pandas 实现将NaN转换为None
2021/05/14 Python
JS创建或填充任意长度数组的小技巧汇总
2021/10/24 Javascript