tensorflow tf.train.batch之数据批量读取方式


Posted in Python onJanuary 20, 2020

在进行大量数据训练神经网络的时候,可能需要批量读取数据。于是参考了这篇文章的代码,结果发现数据一直批量循环输出,不会在数据的末尾自动停止。

然后发现这篇博文说slice_input_producer()这个函数有一个形参num_epochs,通过设置它的值就可以控制全部数据循环输出几次。

于是我设置之后出现以下的报错:

tensorflow.python.framework.errors_impl.FailedPreconditionError: Attempting to use uninitialized value input_producer/input_producer/limit_epochs/epochs

     [[Node: input_producer/input_producer/limit_epochs/CountUpTo = CountUpTo[T=DT_INT64, _class=["loc:@input_producer/input_producer/limit_epochs/epochs"], limit=2, _device="/job:localhost/replica:0/task:0/cpu:0"](input_producer/input_producer/limit_epochs/epochs)]]

找了好久,都不知道为什么会错,于是只好去看看slice_input_producer()函数的源码,结果在源码中发现作者说这个num_epochs如果不是空的话,就是一个局部变量,需要先调用global_variables_initializer()函数初始化。

于是我调用了之后,一切就正常了,特此记录下来,希望其他人遇到的时候能够及时找到原因。

哈哈,这是笔者第一次通过阅读源码解决了问题,心情还是有点小激动。啊啊,扯远了,上最终成功的代码:

import pandas as pd
import numpy as np
import tensorflow as tf


def generate_data():
  num = 25
  label = np.asarray(range(0, num))
  images = np.random.random([num, 5])
  print('label size :{}, image size {}'.format(label.shape, images.shape))
  return images,label

def get_batch_data():
  label, images = generate_data()
  input_queue = tf.train.slice_input_producer([images, label], shuffle=False,num_epochs=2)
  image_batch, label_batch = tf.train.batch(input_queue, batch_size=5, num_threads=1, capacity=64,allow_smaller_final_batch=False)
  return image_batch,label_batch


images,label = get_batch_data()
sess = tf.Session()
sess.run(tf.global_variables_initializer())
sess.run(tf.local_variables_initializer())#就是这一行
coord = tf.train.Coordinator()
threads = tf.train.start_queue_runners(sess,coord)
try:
  while not coord.should_stop():
    i,l = sess.run([images,label])
    print(i)
    print(l)
except tf.errors.OutOfRangeError:
  print('Done training')
finally:
  coord.request_stop()
coord.join(threads)
sess.close()

以上这篇tensorflow tf.train.batch之数据批量读取方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
由Python运算π的值深入Python中科学计算的实现
Apr 17 Python
Django中模版的子目录与include标签的使用方法
Jul 16 Python
Python基于回溯法子集树模板解决旅行商问题(TSP)实例
Sep 05 Python
Python编程实现二分法和牛顿迭代法求平方根代码
Dec 04 Python
python打包exe开机自动启动的实例(windows)
Jun 28 Python
10分钟用python搭建一个超好用的CMDB系统
Jul 17 Python
Python OrderedDict的使用案例解析
Oct 25 Python
pytorch中的transforms模块实例详解
Dec 31 Python
python 实现在无序数组中找到中位数方法
Mar 03 Python
使用tkinter实现三子棋游戏
Feb 25 Python
python三子棋游戏
May 04 Python
如何利用python实现列表嵌套字典取值
Jun 10 Python
Python list运算操作代码实例解析
Jan 20 #Python
Python模块future用法原理详解
Jan 20 #Python
使用Tensorflow将自己的数据分割成batch训练实例
Jan 20 #Python
Python JSON编解码方式原理详解
Jan 20 #Python
从训练好的tensorflow模型中打印训练变量实例
Jan 20 #Python
利用Tensorflow构建和训练自己的CNN来做简单的验证码识别方式
Jan 20 #Python
新年福利来一波之Python轻松集齐五福(demo)
Jan 20 #Python
You might like
php命名空间学习详解
2014/02/27 PHP
CI框架常用方法小结
2016/05/17 PHP
详细解读php的命名空间(二)
2018/02/21 PHP
原生JS实现Ajax通过GET方式与PHP进行交互操作示例
2018/05/12 PHP
PHP 获取客户端 IP 地址的方法实例代码
2018/11/11 PHP
ThinkPHP 5.1 跨域配置方法
2019/10/11 PHP
js实现兼容性好的微软官网导航下拉菜单效果
2015/09/07 Javascript
Highcharts入门之简介
2016/08/02 Javascript
JavaScript制作简单分页插件
2016/09/11 Javascript
Vue.js实战之Vuex的入门教程
2017/04/01 Javascript
学习使用Bootstrap栅格系统
2017/05/11 Javascript
Node.JS利用PhantomJs抓取网页入门教程
2017/05/19 Javascript
vue-cli+webpack在生成的项目中使用bootstrap实例代码
2017/05/26 Javascript
es7学习教程之fetch解决异步嵌套问题的方法示例
2017/07/21 Javascript
react实现一个优雅的图片占位模块组件详解
2017/10/30 Javascript
利用adb shell和node.js实现抖音自动抢红包功能(推荐)
2018/02/22 Javascript
node后端服务保活的实现
2019/11/10 Javascript
vue组件创建的三种方式小结
2020/02/03 Javascript
Taro小程序自定义顶部导航栏功能的实现
2020/12/17 Javascript
python网络编程示例(客户端与服务端)
2014/04/24 Python
python绘制圆柱体的方法
2018/07/02 Python
Django中Middleware中的函数详解
2019/07/18 Python
python正则爬取某段子网站前20页段子(request库)过程解析
2019/08/10 Python
pyqt5 QlistView列表显示的实现示例
2020/03/24 Python
在python中实现求输出1-3+5-7+9-......101的和
2020/04/02 Python
Python基于pyjnius库实现访问java类
2020/07/31 Python
Python命令行参数argv和argparse该如何使用
2021/02/08 Python
国际化的太阳镜及太阳镜配件零售商:Sunglass Hut
2016/07/26 全球购物
通往英国高街的商店橱窗:Down Your High Street
2020/07/19 全球购物
如何用SQL语句进行模糊查找
2015/09/25 面试题
十佳护士先进事迹
2014/05/08 职场文书
公司承诺书范文
2014/05/19 职场文书
党员自我剖析材料
2014/08/31 职场文书
三好学生评语大全
2014/12/29 职场文书
2015领导干部廉洁自律工作总结
2015/07/23 职场文书
写作之关于描写老人的好段摘抄
2019/11/14 职场文书