优点：in-place 操作节省内存空间

.mul() 和 .add_() 是 PyTorch 中的 in-place 操作，这意味着它们会直接在原变量上进行操作，而不会返回新的变量。相反，* 和 + 是 Python 的运算符，它们会返回新的变量，不会改变原变量的值。

import torch
a = torch.ones(2, 2)
b = a.mul(2)
print(a)  # tensor([[2., 2.],[2., 2.]])
print(b)  # tensor([[2., 2.],[2., 2.]])a = torch.ones(2, 2)
b = a * 2
print(a)  # tensor([[1., 1.],[1., 1.]])
print(b)  # tensor([[2., 2.],[2., 2.]])

对于大规模的数据处理，使用 in-place 操作可以节省内存空间。

缺点：无法 broadcast

PyTorch 的 in-place 操作 .mul() 和 .add_() 不支持 broadcasting。如果尝试将一个维度更小的张量与一个维度更大的张量相乘或相加，会引发错误。

而 Python 的运算符 * 和 + 支持 broadcasting。

import torch
a = torch.ones(2, 2)
b = torch.ones(2)
c = a + b  # This will broadcast b to be [[1, 1], [1, 1]]
print(c)  # tensor([[2., 2.],[2., 2.]])

因此，希望对不同维度的张量执行运算时，可以考虑使用 Python 的运算符 * 和 +。

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：Halo2 FRI Gadget

下一篇：OSG三维渲染引擎编程学习之八：“第一章：OSG介绍” 之 “1.8 基于QT的第三方库编译”

热门资讯

linux入门---制作进度条了解缓冲区我们首先来看看下面的操作：我们首先创建了一个文件并在这个文件里面添加了...

C++ 机房预约系统（六）：学... 8、学生模块 8.1 学生子菜单、登录和注销实现步骤：在Student.cpp的...

JAVA多线程知识整理 Java多线程基础线程的创建和启动继承Thread类来创建并启动自定义Thread类的子类&#...

【洛谷 P1090】[NOIP... [NOIP2004 提高组] 合并果子 / [USACO06NOV] Fence Repair G ...

国民技术LPUART介绍低功耗通用异步接收器（LPUART）简介低功耗通用异步收发器...

城乡供水一体化平台-助力乡村振... 城乡供水一体化管理系统建设方案城乡供水一体化管理系统是运用云计算、大数据等信息化手段࿰...

程序的循环结构和random库... 第三个参数就是步长引入文件时记得指明字符格式，否则读入不了 ...

中国版ChatGPT在哪些方面... 目录一、中国巨大的市场需求二、中国企业加速创新三、中国的人工智能发展四、企业愿景的推进五、...

报名开启 | 共赴一场 Flu... 2023 年 1 月 25 日，Flutter Forward 大会在肯尼亚首都内罗毕...

汇编00-MASM 和 Vis... Qt源码解析索引汇编逆向--- MASM 和 Visual Studio入门前提知识ÿ...

【简陋Web应用3】实现人脸比... 文章目录🍉 前情提要🌷 效果演示🥝 实现过程1. u...

前缀和与对数器与二分法 1. 前缀和假设有一个数组，我们想大量频繁的去访问L到R这个区间的和，...

windows安装JDK步骤一、下载JDK安装包下载地址：https://www.oracle.com/jav...

分治法实现合并排序(归并排序)... 🎊【数据结构与算法】专题正在持续更新中，各种数据结构的创建原理与运用✨...

在linux上安装配置node... 目录前言1，关于nodejs2，配置环境变量3，总结前言...

Linux学习之端口、网络协议... 端口：设备与外界通讯交流的出口网络协议：　　网络协议是指计算机通信网...

Linux内核进程管理并发同步... 并发同步并发是指在某一时间段内能够处理多个任务的能力，而并行是指同一时间能够处理...

opencv学习-HOG LO... 目录1. HOG(Histogram of Oriented Gradients,方向梯度直方图)1...

EEG微状态的功能意义导读大脑的瞬时全局功能状态反映在其电场结构上。聚类分析方法一致地提取了四种头表面脑电场结构ÿ...

【Unity 手写PBR】Bu... 写在前面前期积累： GAMES101作业7提高-实现微表面模型你需要了解的知识【技...

【pytorch】.mul .add_ 和直接 + * 有什么区别

优点：in-place 操作节省内存空间

缺点：无法 broadcast

相关内容

热门资讯