百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

PyTorch之Tensor的常见运算和操作

ztj100 2025-02-11 14:27 12 浏览 0 评论

上一个小节和大家简单地探讨了我们在日常开发的时候,常见的创建Tensor的几种方式,大家应该还是有些印象的,只需要对着官方文档简单地把代码敲一遍,基本上还是有所收获的,这篇文章也比较简单但又是非常重要的,主要是对Tensor进行一系列操作,例如常见的数学操作,修改Tensor的形状。

首先先简单地介绍一下常见的运算操作,例如例如加法,减法,元素相乘。

其次需要注意的就是矩阵相乘,这块也是在深度学习中非常常见的操作,大家务必需要掌握好。(Attention is all you need),矩阵的乘法是在后续的深度学习中确实是非常常见的操作之一,PyTorch中实现矩阵乘法的API是torch.matmul()方法,矩阵乘法是遵循如下逻辑的:

靠近符号的@的两边内在的矩阵维度必须是相同的,如下图所示:

矩阵相乘的结果的维度是由两个相乘矩阵外侧两边的维度所决定,如下图所示:

我们可以简单看下代码,如下图所示我们手写2个tensor,分别是tensor_A和tensor_B,他们的shape都是3X2。

如果两个tensor直接执行矩阵相乘的操作,则会出现如下的错误,torch会提示错误,显示一个矩阵是3x2,另一个矩阵也是3x2是无法相乘的。所以我们要修改矩阵的形状。

我们通过矩阵的转置操作,将tensor_B的形状转置成2x3,这样的话,矩阵A是3x2,矩阵B是2X3,这样的话两个矩阵内在维度都是2,外在维度都是3,这样就符合矩阵相乘的逻辑了,相乘的结果就是3X3,如下图所示:

介绍完tensor的数学运算后,还需要和大家介绍tensor的一些“变形”操作,这些操作在后续的一些神经网络的搭建,也是非常常见的。例如我们刚才为了做好矩阵的相乘,我们把一个3x2的矩阵通过一种比较常见的转置操作,变成了2x3的矩阵,这样才可以与3x2的矩阵进行矩阵相乘的操作。所以矩阵的“变形”操作是为了更好地方便用户进行操作。

上述表格里面的“reshape”,“view”,“stack”,“squeeze”,“unsqueeze”,“permute”操作在后续的操作中都非常常见,所以作为初学者,在这里不需要了解其中的真实原理或者上下文关系,重要的是在jupyter或者colab中敲一敲,留下一些印象。这样在后续的课程里面遇到一些比较经典的网络模型的时候,能够回头再来理解和咀嚼相关的操作,加深自己对这些操作的理解。

接下来我们就快速地进行简单的练习,并且举一些比较易懂的例子,先留下一些简单的印象。首先先看一下reshape的操作,如下图所示,我们先用arange操作,创建一个tensor,tensor里面的数量是8个,左闭右开,这块我们先回顾一下之前的知识,然后我们使用reshape的操作,将这8个数字变成2行4列,我们可以这样想象一下,来了8个小朋友,把他们领到一个教室里,分成2组,每组4个人,同时不改变它们的顺序。大家可以动手操作一下,相信很快能够理解reshape的作用。view的作用大家可以暂时认为与reshape逻辑一样,先暂时这么使用,等后续遇到实际问题时,再进行分析,否则大家拘泥于细节,不利于大家进一步学习。

接下来我们可以练习第二个操作,stack操作,stack有“堆砌”的意思,这边需要注意的就是堆砌的方向,就像和我们砌墙一样,有按着行来砌,也有竖着按着列来砌墙,都是可以完成的,按照什么方向进行堆砌在PyTorch的stack api中使用dim这个参数来进行控制的,dim=0,表示先按照行来堆砌,dim=1表示按照列来堆砌。

第三个操作就是unsqueeze和squeeze这2个成对的操作,unsequeeze就是扩充维度的,squeeze就是减少维度的意思,这块也是比较常见的操作,比如如下所示,可以x_squeezed看出维度增加了一个维度。就好比现在砌墙,已经用8块砖头砌了2行每行4块砖头的格式,现在用“框子”框住就变成了一面墙,现在的2x4就成了一个“整体”,变成了一面墙,维度就变成了1x2x4,解释成有1面墙,这个墙有2行,每一行有4块砖头,接下来我们再使用repeat的api,进行快速复制。参数是(2,1,1),理解起来也比较方便,就是我们一面墙的这个维度,变成2面墙,每面墙里面的元素不发生改变。

这块还是希望大家去主动手敲相关的代码,这样才会方便大家理解,虽然这块是基础,但是后面在一些经典的网络搭建的时候,这些API还是非常常见的,如果大家掌握不牢,到时候还是需要重头开始看,否则就根本看不懂相关的逻辑。

好了,到目前为止,PyTorch中一些比较常见的tensor操作,我们都已经简单介绍了,还有一些特定领域的API,我们还没有介绍,到时候遇到一个就介绍一个,下一个小节,我们就开始PyTorch的Hello world之旅了,希望对深度学习感兴趣的同学多多支持,点赞和关注,接下来应该会每周2更新,大家一起加油。

相关推荐

再见Swagger UI 国人开源了一款超好用的 API 文档生成框架,真香

背景最近,栈长发现某些国内的开源项目都使用到了Knife4j技术,看名字就觉得很锋利啊!...

Spring Boot自动装配黑魔法:手把手教你打造高逼格自定义Starter

如果你是SpringBoot深度用户,是否经历过这样的痛苦:每个新项目都要重复配置Redis连接池,反复粘贴Swagger配置参数,在微服务架构中为统一日志格式疲于奔命?本文将为你揭开Spring...

Spring Boot(十五):集成Knife4j(spring boot 集成)

Knife4j的简介Knife4j是一个集Swagger2和OpenAPI3为一体的增强解决方案,它的前身是上一篇文章中介绍的swagger-bootstrap-ui。swagger-bootstra...

swagger-bootstrap-ui:swagger改进版本,界面更美观易于阅读

swagger作为一款在线文档生成工具,用于自动生成接口API,避免接口文档和代码不同步,但原生的界面不是很友好,下面介绍一款改进版本swagger-bootstrap-ui,界面左右侧布局,可以打开...

界面美观功能强大,终于可以告别单调的swagger ui了——knife4j

介绍knife4j是为JavaMVC框架集成Swagger生成Api文档的增强解决方案(在非Java项目中也提供了前端UI的增强解决方案),前身是swagger-bootstrap-ui,取名kni...

从 0 到 1 实战 Spring Boot 3:手把手教你构建高效 RESTful 接口

从0到1实战SpringBoot3:手把手教你构建高效RESTful接口在微服务架构盛行的今天,构建高效稳定的RESTful接口是后端开发者的核心技能。SpringBoot凭...

SpringBoot动态权限校验终极指南:3种高赞方案让老板主动加薪!

“上周用这套方案重构权限系统,CTO当着全组的面摔了祖传代码!”一位脉脉匿名网友的血泪经验:还在用硬编码写Shiro过滤器?RBAC模型搞出200张表?是时候用SpringSecurity+动态路...

一个基于 Spring Boot 的在线考试系统

今天推荐一款超级美观的在线考试系统,感兴趣可以先去预览地址看看该项目。在线Demo预览,http://129.211.88.191,账户分别是admin、teacher、student,密码是ad...

SpringBoot API开发的十大专业实践指南

在SpringBoot应用开发领域,构建高效、可靠的API需遵循系统化的开发规范。本文结合实战编码示例,详细解析10项关键开发实践,助您打造具备工业级标准的后端接口。一、RESTful...

震碎认知!将原理融会贯通到顶点的SpringBoot实战项目

SpringBoot是什么?我们知道,从2002年开始,Spring一直在飞速的发展,如今已经成为了在JavaEE(JavaEnterpriseEdition)开发中真正意义上的标准,但...

Spring Boot 整合 Knife4j 实现接口文档编写?

Knife4j增强版的SwaggerUI实现,在Knife4j中提供了很多功能并且用户体验也随之有了很大的提升。Knife4j主要基于Swagger2.0构建的,主要的用途就是在SpringBo...

前端同事老是说swagger不好用,我用了knife4j后,同事爽得不行

日常开发当中,少不了前端联调,随着协同开发的发展,前端对接口要求也变得越来越高了。所以我使用了knife4j,同事用完觉得太舒服了。knife4j简介:Knife4j...

一个基于spring boot的Java开源商城系统

前言一个基于springboot的JAVA开源商城系统,是前后端分离、为生产环境多实例完全准备、数据库为b2b2c商城系统设计、拥有完整下单流程和精美设计的java开源商城系统https://www...

再见 Swagger!国人开源了一款超好用的 API 文档生成框架真香

Knife4j是为JavaMVC框架集成Swagger生成Api文档的增强解决方案,前身是swagger-bootstrap-ui,取名kni4j是希望她能像一把匕首一样小巧,轻量,并且功能强悍!...

Spring Boot整合MybatisPlus和Druid

在Java中,我比较ORM熟悉的只有...

取消回复欢迎 发表评论: