用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案


Posted in Python onMarch 03, 2021

训练的时候当然用gpu,速度快呀。

我想用cpu版的tensorflow跑一下,结果报错,这个错误不太容易看懂。

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

大概意思是没找到一些节点。

后来发现原因,用gpu和cpu保存的pb模型不太一样,但是checkpoints文件是通用的。

使用tensorflow-cpu再把checkpoints文件重新转换一下pb文件就可以了。

完美解决!

补充:tensflow-gpu版的无数坑坑坑!(tf坑大总结)

自己的小本本,之前预装有的pycharm+win10+anaconda3+python3的环境

2019/3/24重新安装发现:目前CUDA10.1安装不了tensorflow1.13,把CUDA改为10.0即可(记得对应的cudann呀)

如果刚入坑,建议先用tensorflw学会先跑几个demo,等什么时候接受不了cpu这乌龟般的速度之时,就要开始尝试让gpu来跑了。

cpu跑tensorflow只需要在anaconda3下载。

安装cpu跑的tensorflow:

我的小本本目前已经是gpu版本,cpu版本下红圈里那个版本就好了!

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

安装好了后直接在python命令中输入

import tensorflow as tf

如果不报错说明调用成功。

查看目前tensorflow调用的是cpu还是gpu运行:

import tensorflow as tf
import numpy as np
a = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[2, 3], name='a')
b = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[3, 2], name='b')
c = tf.matmul(a, b)
sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
print(sess.run(c))

然后把这段代码粘贴到编译器中运行,

看一下运行的结果中,调用运行的是什么

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

看给出的是gpu还是cpu就能判断目前运行的是哪一个了

安装gpu版本的tensorflow:

首先第一步要确定你的显卡是否为N卡,

然后上https://developer.nvidia.com/cuda-gpus去看看你的显卡是否被NVDIA允许跑机器学习

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

对于CUDA与cudann的安装:

需要到nvdia下载CUDA与cudann,这里最重要的是注意CUDA与cudann与tensorflow三者的搭配,

注意版本的搭配!!!

注意版本的搭配!!!

注意版本的搭配!!!

tensorflow在1.5版本以后才支持9.0以上的CUDA,所以如果CUDA版本过高,会造成找不到文件的错误。

在官网也可以看到CUDA搭配的cudann

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

在安装完了cudann时,需要把其三个文件复制到CUDA的目录下,并且添加3个新的path:

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

3个path,

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

当使用gpu版的tf时,就不再需要安装原来版本的tf,卸载了就好,安装tf-gpu版,

判断自己是否有安装tf包,对于pycharm用户,可以在setting那看看是否安装了tf-gpu

用gpu训练好的神经网络,用tensorflow-cpu跑出错的原因及解决方案

我使用的环境为:tf1.2+CUDA8.0+cudann5.1

当全部正确安装时

import tensorflow as tf 仍然出错

cudnn64_6.dll问题

关于导入TensorFlow找不到cudnn64_6.dll,其实下载的的是cudnn64_7.dll(版本不符合),把其修改过来就行了。

目录是在:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v8.0\bin下

对于不断尝试扔失败运行GPU版本,可以把tf先删除了重新下

import tensorflow as tf
print(tf.__version__)

查询tensorflow安装路径为:

print(tf.__path__)

成功用GPU运行但运行自己的代码仍然报错:

如果报错原因是这个

ResourceExhaustedError (see above for traceback): OOM when allocating tensor with shape[10000,28,28,32]

最后关于这个报错是因为GPU的显存不够,此时你可以看看你的代码,是训练集加载过多还是测试集加载过多,将它一次只加载一部分即可。

对于训练集banch_xs,banch_ys = mnist.train.next_batch(1000) 改为

banch_xs,banch_ys = mnist.train.next_batch(100)即可,

而测试集呢print(compute_accuracy(mnist.test.images[:5000], mnist.test.labels[:5000])) 改为

print(compute_accuracy(mnist.test.images, mnist.test.labels))即可

以上为个人经验,希望能给大家一个参考,也希望大家多多支持三水点靠木。如有错误或未考虑完全的地方,望不吝赐教。

Python 相关文章推荐
跟老齐学Python之有容乃大的list(2)
Sep 15 Python
关于Python元祖,列表,字典,集合的比较
Jan 06 Python
python访问抓取网页常用命令总结
Apr 11 Python
在Python中定义一个常量的方法
Nov 10 Python
Python实现爬取马云的微博功能示例
Feb 16 Python
PyTorch实现AlexNet示例
Jan 14 Python
PyCharm 在Windows的有用快捷键详解
Apr 07 Python
用python实现前向分词最大匹配算法的示例代码
Aug 06 Python
Django路由层URLconf作用及原理解析
Sep 24 Python
python Matplotlib数据可视化(2):详解三大容器对象与常用设置
Sep 30 Python
Python3中FuzzyWuzzy库实例用法
Nov 18 Python
python绘制箱型图
Apr 27 Python
神经网络训练采用gpu设置的方式
Mar 03 #Python
解决TensorFlow训练模型及保存数量限制的问题
Mar 03 #Python
使paramiko库执行命令时在给定的时间强制退出功能的实现
Mar 03 #Python
python上下文管理的使用场景实例讲解
Mar 03 #Python
pip install命令安装扩展库整理
Mar 02 #Python
python实现杨辉三角的几种方法代码实例
Mar 02 #Python
python爬虫破解字体加密案例详解
Mar 02 #Python
You might like
php使用正则过滤js脚本代码实例
2014/05/10 PHP
PHP图片自动裁切应付不同尺寸的显示
2014/10/16 PHP
Laravel 中创建 Zip 压缩文件并提供下载的实现方法
2019/04/02 PHP
php下的原生ajax请求用法实例分析
2020/02/28 PHP
jQuery Dialog 弹出层对话框插件
2010/08/09 Javascript
jquery ajax post提交数据乱码
2013/11/05 Javascript
JavaScript实现的内存数据库LokiJS介绍和入门实例
2014/11/17 Javascript
JS+CSS实现自动改变切换方向图片幻灯切换效果的方法
2015/03/02 Javascript
JS+CSS实现仿触屏手机拨号盘界面及功能模拟完整实例
2015/05/16 Javascript
如何消除inline-block属性带来的标签间间隙
2016/03/31 Javascript
jquery实现下拉框功能效果【实例代码】
2016/05/06 Javascript
AngularJS使用指令增强标准表单元素功能
2016/07/01 Javascript
NodeJS与HTML5相结合实现拖拽多个文件上传到服务器的实现方法
2016/07/26 NodeJs
BooStrap对导航条的改造实践小结
2016/09/21 Javascript
基于substring()和substr()的使用以及区别(实例讲解)
2017/12/28 Javascript
详解nodejs 配置文件处理方案
2019/01/02 NodeJs
Vue中错误图片的处理的实现代码
2019/11/07 Javascript
使用PYTHON接收多播数据的代码
2012/03/01 Python
python logging类库使用例子
2014/11/22 Python
python实现批量下载新浪博客的方法
2015/06/15 Python
使用Python编写一个最基础的代码解释器的要点解析
2016/07/12 Python
Python列表切片用法示例
2017/04/19 Python
基于Python的XSS测试工具XSStrike使用方法
2017/07/29 Python
Python读取图片为16进制表示简单代码
2018/01/19 Python
解决python3 网络请求路径包含中文的问题
2018/05/10 Python
Python django使用多进程连接mysql错误的解决方法
2018/10/08 Python
对python内置map和six.moves.map的区别详解
2018/12/19 Python
python实现文件助手中查看微信撤回消息
2019/04/29 Python
详解Django模版中加载静态文件配置方法
2019/07/21 Python
python模块和包的应用BASE_PATH使用解析
2019/12/14 Python
美体小铺加拿大官方网站:The Body Shop加拿大
2016/10/30 全球购物
节约电力资源的建议书
2014/03/12 职场文书
有趣的二维码:使用MyQR和qrcode来制作二维码
2021/05/10 Python
Java 超详细讲解hashCode方法
2022/04/07 Java/Android
vue使用watch监听属性变化
2022/04/30 Vue.js
SQL解决未能删除约束问题drop constraint
2022/05/30 SQL Server