Tensorflow全局设置可见GPU编号操作


Posted in Python onJune 30, 2020

笔者需要tensorflow仅运行在一个GPU上(机器本身有多GPU),而且需要依据系统参数动态调节,故无法简单使用CUDA_VISIBLE_DEVICES。

一种方式是全局使用tf.device函数生成的域,但设备号需要在绘制Graph前指定,仍然不够灵活。

查阅文档发现config的GPUOptions中的visible_device_list可以定义GPU编号从visible到virtual的映射,即可以设置tensorflow可见的GPU device,从而全局设置了tensorflow可见的GPU编号。代码如下:

config = tf.ConfigProto()
config.gpu_options.visible_device_list = str(device_num)
sess = tf.Session(config=config)

参考 多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置,还可以通过os包设置全局变量CUDA_VISIBLE_DEVICES,代码如下:

os.environ["CUDA_VISIBLE_DEVICES"] = "2"

补充知识:TensorFlow 设置程序可见GPU与逻辑分区

TensorFlow 设置程序可见GPU(多GPU情况)

import matplotlib as mpl
import matplotlib.pyplot as plt
%matplotlib inline
import numpy as np
import sklearn
import pandas as pd
import os
import sys
import time
import tensorflow as tf

from tensorflow_core.python.keras.api._v2 import keras

print(tf.__version__)
print(sys.version_info)
for module in mpl, np, pd, sklearn, tf, keras:
 print(module.__name__, module.__version__)

# 打印变量所在位置
tf.debugging.set_log_device_placement(True) 

# 获取物理GPU的个数
gpus = tf.config.experimental.list_physical_devices("GPU") 

if len(gpus) >= 1:
 # 设置第几个GPU 当前程序可见
 tf.config.experimental.set_visible_devices(gpus[0], "GPU")
 
print("物理GPU个数:", len(gpus))

# 获取逻辑GPU的个数
logical_gpus = tf.config.experimental.list_logical_devices("GPU") 
print("逻辑GPU个数:", len(logical_gpus))

TensorFlow 设置GPU的 逻辑分区

import matplotlib as mpl
import matplotlib.pyplot as plt
%matplotlib inline
import numpy as np
import sklearn
import pandas as pd
import os
import sys
import time
import tensorflow as tf

from tensorflow_core.python.keras.api._v2 import keras

print(tf.__version__)
print(sys.version_info)
for module in mpl, np, pd, sklearn, tf, keras:
 print(module.__name__, module.__version__)

# 打印变量所在位置
tf.debugging.set_log_device_placement(True) 

# 获取物理GPU的个数
gpus = tf.config.experimental.list_physical_devices("GPU") 

if len(gpus) >= 1:
 # 设置第几个GPU 当前程序可见
 tf.config.experimental.set_visible_devices(gpus[0], "GPU")
 
 # 设置GPU的 逻辑分区
 tf.config.experimental.set_virtual_device_configuration(
  gpus[0], 
  [tf.config.experimental.VirtualDeviceConfiguration(memory_limit=3072),
   tf.config.experimental.VirtualDeviceConfiguration(memory_limit=3072)])

print("物理GPU个数:", len(gpus))

# 获取逻辑GPU的个数
logical_gpus = tf.config.experimental.list_logical_devices("GPU") 
print("逻辑GPU个数:", len(logical_gpus))

TensorFlow 手动设置处理GPU

import matplotlib as mpl
import matplotlib.pyplot as plt
%matplotlib inline
import numpy as np
import sklearn
import pandas as pd
import os
import sys
import time
import tensorflow as tf

from tensorflow_core.python.keras.api._v2 import keras

print(tf.__version__)
print(sys.version_info)
for module in mpl, np, pd, sklearn, tf, keras:
 print(module.__name__, module.__version__)

# 打印变量所在位置
tf.debugging.set_log_device_placement(True) 

# 自动指定处理设备
tf.config.set_soft_device_placement(True)

# 获取物理GPU的个数
gpus = tf.config.experimental.list_physical_devices("GPU") 
for gpu in gpus:
 # 设置内存自增长方式
 tf.config.experimental.set_memory_growth(gpu, True) 
print("物理GPU个数:", len(gpus))

# 获取逻辑GPU的个数
logical_gpus = tf.config.experimental.list_logical_devices("GPU") 
print("逻辑GPU个数:", len(logical_gpus))

c = []

# 循环遍历当前逻辑GPU
for gpu in logical_gpus:
 print(gpu.name)

 # 手动设置处理GPU
 with tf.device(gpu.name):
  a = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]])
  b = tf.constant([[1.0, 2.0], [3.0, 4.0], [5.0, 6.0]])
  
  # 矩阵相乘 并且添加至列表
  c.append(tf.matmul(a, b))

# 手动设置处理GPU
with tf.device("/GPU:0"):
 matmul_sum = tf.add_n(c)

print(matmul_sum)

以上这篇Tensorflow全局设置可见GPU编号操作就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
在Python的Django框架中调用方法和处理无效变量
Jul 15 Python
python迭代器与生成器详解
Mar 10 Python
python输入错误密码用户锁定实现方法
Nov 27 Python
python中返回矩阵的行列方法
Apr 04 Python
python批量查询、汉字去重处理CSV文件
May 31 Python
使用Python中的reduce()函数求积的实例
Jun 28 Python
python+selenium+chromedriver实现爬虫示例代码
Apr 10 Python
python实现文字版扫雷
Apr 24 Python
使用Keras建立模型并训练等一系列操作方式
Jul 02 Python
Python爬虫之Selenium设置元素等待的方法
Dec 04 Python
python实现启动一个外部程序,并且不阻塞当前进程
Dec 05 Python
python数字图像处理:图像的绘制
Jun 28 Python
Python logging模块异步线程写日志实现过程解析
Jun 30 #Python
浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置
Jun 30 #Python
Tensorflow中批量读取数据的案列分析及TFRecord文件的打包与读取
Jun 30 #Python
使用Tensorflow-GPU禁用GPU设置(CPU与GPU速度对比)
Jun 30 #Python
keras的backend 设置 tensorflow,theano操作
Jun 30 #Python
浅谈TensorFlow中读取图像数据的三种方式
Jun 30 #Python
python中 _、__、__xx__()区别及使用场景
Jun 30 #Python
You might like
PHP在Web开发领域的优势
2006/10/09 PHP
php学习之流程控制实现代码
2011/06/09 PHP
制作安全性高的PHP网站的几个实用要点
2014/12/30 PHP
PHP Opcache安装和配置方法介绍
2015/05/28 PHP
php简单截取字符串代码示例
2016/10/19 PHP
UI Events 用户界面事件
2012/06/27 Javascript
JavaScript学习笔记(三):JavaScript也有入口Main函数
2015/09/12 Javascript
JS控制按钮10秒钟后可用的方法
2015/12/22 Javascript
Bootstrap每天必学之弹出框(Popover)插件
2016/04/25 Javascript
JS获取一个未知DIV高度的方法
2016/08/09 Javascript
EasyUI为Numberbox添加blur事件的方法
2017/03/05 Javascript
JavaScript组件开发之输入框加候选框
2017/03/10 Javascript
nodejs后台集成ueditor富文本编辑器的实例
2017/07/11 NodeJs
JS求Number类型数组中最大元素方法
2018/04/08 Javascript
jQuery内容选择器与表单选择器实例分析
2019/06/28 jQuery
微信小程序进入广告实现代码实例
2019/09/19 Javascript
原生JS无缝滑动轮播图
2019/10/22 Javascript
浅谈如何优雅处理JavaScript异步错误
2019/11/12 Javascript
js实现秒表计时器
2019/12/16 Javascript
JS实现简易日历效果
2021/01/25 Javascript
python模块之sys模块和序列化模块(实例讲解)
2017/09/13 Python
Python中optparser库用法实例详解
2018/01/26 Python
Python操作Mongodb数据库的方法小结
2019/09/10 Python
python序列类型种类详解
2020/02/26 Python
python实现程序重启和系统重启方式
2020/04/16 Python
Python基于locals返回作用域字典
2020/10/17 Python
详解CSS3中@media的实际使用
2015/08/04 HTML / CSS
法国亚马逊官方网站:Amazon.fr
2020/12/19 全球购物
部队领导证婚词
2014/01/12 职场文书
高校十八大报告感想
2014/01/27 职场文书
《陶罐和铁罐》教学反思
2014/02/19 职场文书
教师民族团结演讲稿
2014/08/27 职场文书
班子成员四风问题自我剖析材料
2014/09/29 职场文书
财务部岗位职责范本
2015/04/14 职场文书
MySQL中日期型单行函数代码详解
2021/06/21 MySQL
浅谈Python数学建模之线性规划
2021/06/23 Python