pytorch cuda上tensor的定义 以及减少cpu的操作详解


Posted in Python onJune 23, 2020

cuda上tensor的定义

a = torch.ones(1000,1000,3).cuda()

某一gpu上定义

cuda1 = torch.device('cuda:1')
b = torch.randn((1000,1000,1000),device=cuda1)

删除某一变量

del a

在cpu定义tensor然后转到gpu

torch.zeros().cuda()

直接在gpu上定义,这样就减少了cpu的损耗

torch.cuda.FloatTensor(batch_size, self.hidden_dim, self.height, self.width).fill_(0)

补充知识:pytorch cuda.FloatTensor->FloatTensor

错误类型:

RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor)

定义残差块时定义在model的外面,在使用gpu进行训练的时候,残差块的参数是torch.FloatTensor类型,

虽然使用了model.cuda(),但是只对model里面的参数在gpu部分,所以把残差块对应的操作都在model的__init__(),

重新定义,即可解决问题

以上这篇pytorch cuda上tensor的定义 以及减少cpu的操作详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python client使用http post 到server端的代码
Feb 10 Python
python私有属性和方法实例分析
Jan 15 Python
在Python中操作时间之mktime()方法的使用教程
May 22 Python
Python入门_浅谈字符串的分片与索引、字符串的方法
May 16 Python
解决python中用matplotlib画多幅图时出现图形部分重叠的问题
Jul 07 Python
python3 mmh3安装及使用方法
Oct 09 Python
pyinstaller打包程序exe踩过的坑
Nov 19 Python
基于python判断目录或者文件代码实例
Nov 29 Python
Python字节单位转换实例
Dec 05 Python
python+adb+monkey实现Rom稳定性测试详解
Apr 23 Python
Python使用shutil模块实现文件拷贝
Jul 31 Python
Python中猜拳游戏与猜筛子游戏的实现方法
Sep 04 Python
Python dict的常用方法示例代码
Jun 23 #Python
Python3 webservice接口测试代码详解
Jun 23 #Python
python和JavaScript哪个容易上手
Jun 23 #Python
pytorch 查看cuda 版本方式
Jun 23 #Python
Spring @Enable模块驱动原理及使用实例
Jun 23 #Python
PyTorch-GPU加速实例
Jun 23 #Python
Python基于yaml文件配置logging日志过程解析
Jun 23 #Python
You might like
虹吸式咖啡壶操作
2021/03/03 冲泡冲煮
PHP.MVC的模板标签系统(三)
2006/09/05 PHP
在任意字符集下正常显示网页的方法二(续)
2007/04/01 PHP
解析PHP中的正则表达式以及模式匹配
2013/06/19 PHP
Zend Framework动作助手Redirector用法实例详解
2016/03/05 PHP
禁止IE用右键的JS代码
2013/12/30 Javascript
JavaScript焦点事件、鼠标事件和滚轮事件使用详解
2016/01/15 Javascript
JS实现动态生成表格并提交表格数据向后端
2020/11/25 Javascript
各式各样的导航条效果css3结合jquery代码实现
2016/09/17 Javascript
jQuery web 组件 后台日历价格、库存设置的代码
2016/10/14 Javascript
Nodejs中解决cluster模块的多进程如何共享数据问题
2016/11/10 NodeJs
Javascript中 带名 匿名 箭头函数的重要区别(推荐)
2017/01/29 Javascript
Bootstrap列表组学习使用
2017/02/09 Javascript
基于JQuery及AJAX实现名人名言随机生成器
2017/02/10 Javascript
如何让你的JS代码更好看易读
2017/12/01 Javascript
axios全局注册,设置token,以及全局设置url请求网段的方法
2018/09/25 Javascript
Vue结合后台导入导出Excel问题详解
2019/02/19 Javascript
最全vue的vue-amap使用高德地图插件画多边形范围的示例代码
2020/07/17 Javascript
Python生成不重复随机值的方法
2015/05/11 Python
python实现将英文单词表示的数字转换成阿拉伯数字的方法
2015/07/02 Python
python Selenium爬取内容并存储至MySQL数据库的实现代码
2017/03/16 Python
Python3学习笔记之列表方法示例详解
2017/10/06 Python
pandas把dataframe转成Series,改变列中值的类型方法
2018/04/10 Python
Python中判断输入是否为数字的实现代码
2018/05/26 Python
Python实现输入二叉树的先序和中序遍历,再输出后序遍历操作示例
2018/07/27 Python
使用Python批量修改文件名的代码实例
2019/01/24 Python
python爬虫 基于requests模块发起ajax的get请求实现解析
2019/08/20 Python
Laravel框架表单验证格式化输出的方法
2019/09/25 Python
Python中输入和输出(打印)数据实例方法
2019/10/13 Python
python快速排序的实现及运行时间比较
2019/11/22 Python
完美解决keras 读取多个hdf5文件进行训练的问题
2020/07/01 Python
戴尔加拿大官网:Dell加拿大
2016/09/17 全球购物
蔻驰法国官网:COACH法国
2018/11/14 全球购物
在购买印度民族服饰:Soch
2020/09/15 全球购物
文明市民先进事迹
2014/05/15 职场文书
无毒社区工作方案
2014/05/23 职场文书