用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案


Posted in Python onMarch 03, 2021

训练的时候当然用gpu,速度快呀。

我想用cpu版的tensorflow跑一下,结果报错,这个错误不太容易看懂。

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

大概意思是没找到一些节点。

后来发现原因,用gpu和cpu保存的pb模型不太一样,但是checkpoints文件是通用的。

使用tensorflow-cpu再把checkpoints文件重新转换一下pb文件就可以了。

完美解决!

补充:tensflow-gpu版的无数坑坑坑!(tf坑大总结)

自己的小本本,之前预装有的pycharm+win10+anaconda3+python3的环境

2019/3/24重新安装发现:目前CUDA10.1安装不了tensorflow1.13,把CUDA改为10.0即可(记得对应的cudann呀)

如果刚入坑,建议先用tensorflw学会先跑几个demo,等什么时候接受不了cpu这乌龟般的速度之时,就要开始尝试让gpu来跑了。

cpu跑tensorflow只需要在anaconda3下载。

安装cpu跑的tensorflow:

我的小本本目前已经是gpu版本,cpu版本下红圈里那个版本就好了!

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

安装好了后直接在python命令中输入

import tensorflow as tf

如果不报错说明调用成功。

查看目前tensorflow调用的是cpu还是gpu运行:

import tensorflow as tf
import numpy as np
a = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[2, 3], name='a')
b = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[3, 2], name='b')
c = tf.matmul(a, b)
sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
print(sess.run(c))

然后把这段代码粘贴到编译器中运行,

看一下运行的结果中,调用运行的是什么

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

看给出的是gpu还是cpu就能判断目前运行的是哪一个了

安装gpu版本的tensorflow:

首先第一步要确定你的显卡是否为N卡,

然后上https://developer.nvidia.com/cuda-gpus去看看你的显卡是否被NVDIA允许跑机器学习

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

对于CUDA与cudann的安装:

需要到nvdia下载CUDA与cudann,这里最重要的是注意CUDA与cudann与tensorflow三者的搭配,

注意版本的搭配!!!

注意版本的搭配!!!

注意版本的搭配!!!

tensorflow在1.5版本以后才支持9.0以上的CUDA,所以如果CUDA版本过高,会造成找不到文件的错误。

在官网也可以看到CUDA搭配的cudann

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

在安装完了cudann时,需要把其三个文件复制到CUDA的目录下,并且添加3个新的path:

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

3个path,

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

当使用gpu版的tf时,就不再需要安装原来版本的tf,卸载了就好,安装tf-gpu版,

判断自己是否有安装tf包,对于pycharm用户,可以在setting那看看是否安装了tf-gpu

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

我使用的环境为:tf1.2+CUDA8.0+cudann5.1

当全部正确安装时

import tensorflow as tf 仍然出错

cudnn64_6.dll问题

关于导入TensorFlow找不到cudnn64_6.dll,其实下载的的是cudnn64_7.dll(版本不符合),把其修改过来就行了。

目录是在:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v8.0\bin下

对于不断尝试扔失败运行GPU版本,可以把tf先删除了重新下

import tensorflow as tf
print(tf.__version__)

查询tensorflow安装路径为:

print(tf.__path__)

成功用GPU运行但运行自己的代码仍然报错:

如果报错原因是这个

ResourceExhaustedError (see above for traceback): OOM when allocating tensor with shape[10000,28,28,32]

最后关于这个报错是因为GPU的显存不够,此时你可以看看你的代码,是训练集加载过多还是测试集加载过多,将它一次只加载一部分即可。

对于训练集banch_xs,banch_ys = mnist.train.next_batch(1000) 改为

banch_xs,banch_ys = mnist.train.next_batch(100)即可,

而测试集呢print(compute_accuracy(mnist.test.images[:5000], mnist.test.labels[:5000])) 改为

print(compute_accuracy(mnist.test.images, mnist.test.labels))即可

以上为个人经验,希望能给大家一个参考,也希望大家多多支持三水点靠木。如有错误或未考虑完全的地方,望不吝赐教。

Python 相关文章推荐
跟老齐学Python之有容乃大的list(1)
Sep 14 Python
Python标准库之多进程(multiprocessing包)介绍
Nov 25 Python
Python遍历zip文件输出名称时出现乱码问题的解决方法
Apr 08 Python
使用Python写个小监控
Jan 27 Python
Python利用flask sqlalchemy实现分页效果
Aug 02 Python
Python实现的基数排序算法原理与用法实例分析
Nov 23 Python
使用Python进行目录的对比方法
Nov 01 Python
对Python中的条件判断、循环以及循环的终止方法详解
Feb 08 Python
Django框架HttpRequest对象用法实例分析
Nov 01 Python
python读取mysql数据绘制条形图
Mar 25 Python
Python Scrapy图片爬取原理及代码实例
Jun 12 Python
Python 保存加载mat格式文件的示例代码
Aug 04 Python
神经网络训练采用gpu设置的方式
Mar 03 #Python
解决TensorFlow训练模型及保存数量限制的问题
Mar 03 #Python
使paramiko库执行命令时在给定的时间强制退出功能的实现
Mar 03 #Python
python上下文管理的使用场景实例讲解
Mar 03 #Python
pip install命令安装扩展库整理
Mar 02 #Python
python实现杨辉三角的几种方法代码实例
Mar 02 #Python
python爬虫破解字体加密案例详解
Mar 02 #Python
You might like
PHP MySQL应用中使用XOR运算加密算法分享
2011/08/28 PHP
php读取纯真ip数据库使用示例
2014/01/26 PHP
php模拟登陆的实现方法分析
2015/01/09 PHP
PHP的Json中文处理解决方案
2016/09/29 PHP
php cookie用户登录的详解及实例代码
2017/01/03 PHP
tagName的使用,留一笔
2006/06/26 Javascript
javascript xml为数据源的下拉框控件
2009/07/07 Javascript
基于jquery的高性能td和input切换并可修改内容实现代码
2011/01/09 Javascript
JQuery中extend使用介绍
2014/03/13 Javascript
修复bash漏洞的shell脚本分享
2014/12/31 Javascript
javascript函数式编程实例分析
2015/04/25 Javascript
jQuery 实现评论等级好评差评特效
2016/05/06 Javascript
Javascript实现登录记住用户名和密码功能
2017/03/22 Javascript
Bootstrap DateTime Picker日历控件简单应用
2017/03/25 Javascript
WebPack配置vue多页面的技巧
2018/05/15 Javascript
浅谈微信页面入口文件被缓存解决方案
2018/09/29 Javascript
webpack4.x下babel的安装、配置及使用详解
2019/03/07 Javascript
JavaScript实现五子棋游戏的方法详解
2019/07/08 Javascript
Vue的编码技巧与规范使用详解
2019/08/28 Javascript
Nuxt使用Vuex的方法示例
2019/09/06 Javascript
关于layui 实现点击按钮添加一行(方法渲染创建的table)
2019/09/29 Javascript
jQuery使用ajax传递json对象到服务端及contentType的用法示例
2020/03/12 jQuery
[02:32]DOTA2亚洲邀请赛 C9战队出场宣传片
2015/02/07 DOTA
Python列表计数及插入实例
2014/12/17 Python
利用python爬取散文网的文章实例教程
2017/06/18 Python
python中reduce()函数的使用方法示例
2017/09/29 Python
Python实现的特征提取操作示例
2018/12/03 Python
python 自动轨迹绘制的实例代码
2019/07/05 Python
解决pycharm最左侧Tool Buttons显示不全的问题
2019/12/17 Python
奥地利领先的在线药房:SHOP APOTHEKE
2019/10/07 全球购物
医院护士的求职信
2014/01/03 职场文书
会议邀请书范文
2014/02/02 职场文书
现场活动策划方案
2014/08/22 职场文书
交通事故一次性赔偿协议书范本
2014/11/02 职场文书
python疲劳驾驶困倦低头检测功能的实现
2022/04/04 Python
DIY胆机必读:各国电子管评价
2022/04/06 无线电