笔者需要tensorflow仅运行在一个GPU上(机器本身有多GPU),而且需要依据系统参数动态调节,故无法简单使用CUDA_VISIBLE_DEVICES。
一种方式是全局使用tf.device函数生成的域,但设备号需要在绘制Graph前指定,仍然不够灵活。
查阅文档发现config的GPUOptions中的visible_device_list可以定义GPU编号从visible到virtual的映射,即可以设置tensorflow可见的GPU device,从而全局设置了tensorflow可见的GPU编号。代码如下:
config = tf.ConfigProto() config.gpu_options.visible_device_list = str(device_num) sess = tf.Session(config=config)
参考 多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置,还可以通过os包设置全局变量CUDA_VISIBLE_DEVICES,代码如下:
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
补充知识:TensorFlow 设置程序可见GPU与逻辑分区
TensorFlow 设置程序可见GPU(多GPU情况)
import matplotlib as mpl import matplotlib.pyplot as plt %matplotlib inline import numpy as np import sklearn import pandas as pd import os import sys import time import tensorflow as tf from tensorflow_core.python.keras.api._v2 import keras print(tf.__version__) print(sys.version_info) for module in mpl, np, pd, sklearn, tf, keras: print(module.__name__, module.__version__) # 打印变量所在位置 tf.debugging.set_log_device_placement(True) # 获取物理GPU的个数 gpus = tf.config.experimental.list_physical_devices("GPU") if len(gpus) >= 1: # 设置第几个GPU 当前程序可见 tf.config.experimental.set_visible_devices(gpus[0], "GPU") print("物理GPU个数:", len(gpus)) # 获取逻辑GPU的个数 logical_gpus = tf.config.experimental.list_logical_devices("GPU") print("逻辑GPU个数:", len(logical_gpus))
TensorFlow 设置GPU的 逻辑分区
import matplotlib as mpl import matplotlib.pyplot as plt %matplotlib inline import numpy as np import sklearn import pandas as pd import os import sys import time import tensorflow as tf from tensorflow_core.python.keras.api._v2 import keras print(tf.__version__) print(sys.version_info) for module in mpl, np, pd, sklearn, tf, keras: print(module.__name__, module.__version__) # 打印变量所在位置 tf.debugging.set_log_device_placement(True) # 获取物理GPU的个数 gpus = tf.config.experimental.list_physical_devices("GPU") if len(gpus) >= 1: # 设置第几个GPU 当前程序可见 tf.config.experimental.set_visible_devices(gpus[0], "GPU") # 设置GPU的 逻辑分区 tf.config.experimental.set_virtual_device_configuration( gpus[0], [tf.config.experimental.VirtualDeviceConfiguration(memory_limit=3072), tf.config.experimental.VirtualDeviceConfiguration(memory_limit=3072)]) print("物理GPU个数:", len(gpus)) # 获取逻辑GPU的个数 logical_gpus = tf.config.experimental.list_logical_devices("GPU") print("逻辑GPU个数:", len(logical_gpus))
TensorFlow 手动设置处理GPU
import matplotlib as mpl import matplotlib.pyplot as plt %matplotlib inline import numpy as np import sklearn import pandas as pd import os import sys import time import tensorflow as tf from tensorflow_core.python.keras.api._v2 import keras print(tf.__version__) print(sys.version_info) for module in mpl, np, pd, sklearn, tf, keras: print(module.__name__, module.__version__) # 打印变量所在位置 tf.debugging.set_log_device_placement(True) # 自动指定处理设备 tf.config.set_soft_device_placement(True) # 获取物理GPU的个数 gpus = tf.config.experimental.list_physical_devices("GPU") for gpu in gpus: # 设置内存自增长方式 tf.config.experimental.set_memory_growth(gpu, True) print("物理GPU个数:", len(gpus)) # 获取逻辑GPU的个数 logical_gpus = tf.config.experimental.list_logical_devices("GPU") print("逻辑GPU个数:", len(logical_gpus)) c = [] # 循环遍历当前逻辑GPU for gpu in logical_gpus: print(gpu.name) # 手动设置处理GPU with tf.device(gpu.name): a = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]]) b = tf.constant([[1.0, 2.0], [3.0, 4.0], [5.0, 6.0]]) # 矩阵相乘 并且添加至列表 c.append(tf.matmul(a, b)) # 手动设置处理GPU with tf.device("/GPU:0"): matmul_sum = tf.add_n(c) print(matmul_sum)
以上这篇Tensorflow全局设置可见GPU编号操作就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
RTX 5090要首发 性能要翻倍!三星展示GDDR7显存
三星在GTC上展示了专为下一代游戏GPU设计的GDDR7内存。
首次推出的GDDR7内存模块密度为16GB,每个模块容量为2GB。其速度预设为32 Gbps(PAM3),但也可以降至28 Gbps,以提高产量和初始阶段的整体性能和成本效益。
据三星表示,GDDR7内存的能效将提高20%,同时工作电压仅为1.1V,低于标准的1.2V。通过采用更新的封装材料和优化的电路设计,使得在高速运行时的发热量降低,GDDR7的热阻比GDDR6降低了70%。
更新日志
- 《暗喻幻想》顺风耳作用介绍
- 崔健1985-梦中的倾诉[再版][WAV+CUE]
- 黄子馨《追星Xin的恋人们2》HQ头版限量编号[WAV+CUE]
- 孟庭苇《情人的眼泪》开盘母带[低速原抓WAV+CUE]
- 孙露《谁为我停留HQCD》[低速原抓WAV+CUE][1.1G]
- 孙悦《时光音乐会》纯银CD[低速原抓WAV+CUE][1.1G]
- 任然《渐晚》[FLAC/分轨][72.32MB]
- 英雄联盟新英雄安蓓萨上线了吗 新英雄安蓓萨技能介绍
- 魔兽世界奥杜尔竞速赛什么时候开启 奥杜尔竞速赛开启时间介绍
- 无畏契约CGRS准星代码多少 CGRS准星代码分享一览
- 张靓颖.2012-倾听【少城时代】【WAV+CUE】
- 游鸿明.1999-五月的雪【大宇国际】【WAV+CUE】
- 曹方.2005-遇见我【钛友文化】【WAV+CUE】
- Unity6引擎上线:稳定性提升、CPU性能最高提升4倍
- 人皇Sky今日举行婚礼!电竞传奇步入新篇章