pytorch--之halfTensor的使用详解


Posted in Python onMay 24, 2021

pytorch--之halfTensor的使用详解

证明出错在dataloader里面

在pytorch当中,float16和half是一样的数据结构,都是属于half操作,

然后dataloader不能返回half值,所以在dataloader里面,要把float16改成float32即可返回

补充:Pytorch中Tensor常用操作归纳

对常用的一些Tensor的常用操作进行简单归纳,方便日后查询。后续有用到再补充。

pytorch--之halfTensor的使用详解

1、创建Tensor

import torch
#经典方式
device = torch.device("cuda:0")
x = torch.tensor([1,2],dtype = torch.float32,device = device,requires_grad=True)
w = sum(2 * x)
w.backward()
print(x.device)
print(x.dtype)
print(x.grad)
#Tensor
y = torch.Tensor([1,2,3])
#等价于
y = torch.FloatTensor([1,2,3])#32位浮点型
#后者声明打开梯度
y.requires_grad = True
#还有其他类型,常用的
torch.LongTensor(2,3)
torch.shortTensor(2,3)
torch.IntTensor(2,3)
w = sum(2 * y)
w.backward()
print(y.grad)
print(y.dtype)

输出:

cuda:0
torch.float32
tensor([2., 2.], device='cuda:0')
tensor([2., 2., 2.])
torch.float32

和numpy类似的创建方法

x = torch.linspace(1,10,10,dtype = torch.float32,requires_grad = True)
y = torch.ones(10)
z = torch.zeros((2,4))
w = torch.randn((2,3))#从标准正态分布(均值为0,方差为1)上随机采用,高斯噪声点,而rand相当于在0,1间随机采样
#torch.normal()????
print(x)
print(y)
print(z)
print(w)

输出

tensor([ 1.,  2.,  3.,  4.,  5.,  6.,  7.,  8.,  9., 10.], requires_grad=True)
tensor([1., 1., 1., 1., 1., 1., 1., 1., 1., 1.])
tensor([[0., 0., 0., 0.],
        [0., 0., 0., 0.]])
tensor([[-0.6505,  1.3897,  2.2265],
        [-1.7815, -1.8194, -0.4143]])

从numpy转换

np_data = np.arange(2,13,2).reshape((2,3))
torch_data = torch.from_numpy(np_data)#numpy转tensor
print('\nnumpy',np_data)
print('\ntorch',torch_data)

输出

numpy [[ 2  4  6]
 [ 8 10 12]]

torch tensor([[ 2,  4,  6],
        [ 8, 10, 12]], dtype=torch.int32)

2、组合

import torch
x = torch.arange(0,10,1).reshape(2,-1)#size=(2,5)
y = torch.ones(10).reshape(2,-1)#size=(2,5)
print(x)
print(y)
w = torch.cat((x,y),dim = 0)#默认从size最左边开始,这里结果为:(2+2,5)
z = torch.cat((x,y),dim = 1)#(2,5+5)
print(w,w.size())
print(z,z.size())
#还有种stack()

输出:

tensor([[0, 1, 2, 3, 4],
        [5, 6, 7, 8, 9]])
tensor([[1., 1., 1., 1., 1.],
        [1., 1., 1., 1., 1.]])
tensor([[0., 1., 2., 3., 4.],
        [5., 6., 7., 8., 9.],
        [1., 1., 1., 1., 1.],
        [1., 1., 1., 1., 1.]]) torch.Size([4, 5])
tensor([[0., 1., 2., 3., 4., 1., 1., 1., 1., 1.],
        [5., 6., 7., 8., 9., 1., 1., 1., 1., 1.]]) torch.Size([2, 10])

3、数据类型转换

法一

x = torch.rand((2,2),dtype = torch.float32)
print(x.dtype)
x = x.double()
print(x.dtype)
x = x.int()
print(x)

输出:

torch.float32
torch.float64
tensor([[0, 0],
        [0, 0]], dtype=torch.int32)

法二

x = torch.LongTensor((2,2))
print(x.dtype)
x = x.type(torch.float32)
print(x.dtype)

输出:

torch.int64
torch.float32

4、矩阵计算

x = torch.arange(0,4,1).reshape(2,-1)
print(x)
print(x * x )#直接相乘
print(torch.mm(x,x))#矩阵乘法
print(x + 1)#广播
print(x.numpy())#转换成numpy

输出:

tensor([[0, 1],
        [2, 3]])
tensor([[0, 1],
        [4, 9]])
tensor([[ 2,  3],
        [ 6, 11]])
tensor([[1, 2],
        [3, 4]])
[[0 1]
 [2 3]]

5、维度变化

主要是对维度大小为1的升降维操作。

torch.squeeze(input)#去掉维度为1的维数
 torch.unsqueeze(input,dim)#指定位置增加一维

以上为个人经验,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
布同自制Python函数帮助查询小工具
Mar 13 Python
python调用cmd命令行制作刷博器
Jan 13 Python
Python 字符串转换为整形和浮点类型的方法
Jul 17 Python
python3的输入方式及多组输入方法
Oct 17 Python
pandas.DataFrame删除/选取含有特定数值的行或列实例
Nov 07 Python
Python3爬虫学习入门教程
Dec 11 Python
关于Python核心框架tornado的异步协程的2种方法详解
Aug 28 Python
python利用dlib获取人脸的68个landmark
Nov 27 Python
详解Python在使用JSON时需要注意的编码问题
Dec 06 Python
使用pyinstaller逆向.pyc文件
Dec 20 Python
浅谈cv2.imread()和keras.preprocessing中的image.load_img()区别
Jun 12 Python
Python之字典添加元素的几种方法
Sep 30 Python
pandas DataFrame.shift()函数的具体使用
May 24 #Python
教你怎么用python实现字符串转日期
May 24 #Python
pandas中DataFrame重置索引的几种方法
May 24 #Python
pandas取dataframe特定行列的实现方法
pytorch 如何使用amp进行混合精度训练
只需要这一行代码就能让python计算速度提高十倍
pytorch 如何使用float64训练
You might like
php各种编码集详解和以及在什么情况下进行使用
2011/09/11 PHP
php中socket通信机制实例详解
2015/01/03 PHP
php获取指定数量随机字符串的方法
2017/02/06 PHP
JavaScript的9个陷阱及评点分析
2008/05/16 Javascript
javascript开发随笔一 preventDefault的必要
2011/11/25 Javascript
js自定义鼠标右键的实现原理及源码
2014/06/23 Javascript
JavaScript中的对象与JSON
2015/07/03 Javascript
详解JavaScript逻辑Not运算符
2015/12/04 Javascript
一个字符串中出现次数最多的字符 统计这个次数【实现代码】
2016/04/29 Javascript
对称加密与非对称加密优缺点详解
2017/02/06 Javascript
微信小程序五子棋游戏的棋盘,重置,对弈实现方法【附demo源码下载】
2019/02/20 Javascript
浅谈JS中几种轻松处理'this'指向方式
2019/09/16 Javascript
详解小程序如何改变onLoad的执行时机
2019/11/01 Javascript
Nodejs + Websocket 指定发送及群聊的实现
2020/01/09 NodeJs
[01:04:22]2018DOTA2亚洲邀请赛 3.31 小组赛 B组 IG vs EG
2018/04/01 DOTA
Python内建数据结构详解
2016/02/03 Python
Python编程之序列操作实例详解
2017/07/22 Python
对python 矩阵转置transpose的实例讲解
2018/04/17 Python
python控制台实现tab补全和清屏的例子
2019/08/20 Python
python生成并处理uuid的实现方式
2020/03/03 Python
python网络编程之五子棋游戏
2020/05/14 Python
python 图像判断,清晰度(明暗),彩色与黑白实例
2020/06/04 Python
专门经营化妆刷的美国彩妆品牌:Sigma Beauty
2017/09/11 全球购物
上海期货面试题
2014/01/31 面试题
linux面试题参考答案(10)
2016/10/26 面试题
自荐信格式写作方法有哪些呢
2013/11/20 职场文书
幼儿园端午节活动方案
2014/08/25 职场文书
党的群众路线剖析材料
2014/10/09 职场文书
2014年平安夜寄语
2014/12/08 职场文书
房产公证书
2015/01/23 职场文书
鼋头渚导游词
2015/02/05 职场文书
个人优缺点总结
2015/02/28 职场文书
2016年元旦寄语
2015/08/17 职场文书
研究生毕业登记表的自我鉴定范文
2019/07/15 职场文书
java中用float时,数字后面加f,这样是为什么你知道吗
2021/09/04 Java/Android
python基础之//、/与%的区别详解
2022/06/10 Python