例如

torch.nn.ReLU(inplace=True)

inplace=True

表示進(jìn)行原地操作，對上一層傳遞下來的tensor直接進(jìn)行修改，如x=x+3；

inplace=False

表示新建一個變量存儲操作結(jié)果，如y=x+3，x=y；

inplace=True

可以節(jié)省運(yùn)算內(nèi)存，不用多存儲變量。

補(bǔ)充：PyTorch中網(wǎng)絡(luò)里面的inplace=True字段的意思

在例如nn.LeakyReLU(inplace=True)中的inplace字段是什么意思呢？有什么用？

inplace=True的意思是進(jìn)行原地操作，例如x=x+5，對x就是一個原地操作，y=x+5,x=y，完成了與x=x+5同樣的功能但是不是原地操作。

上面LeakyReLU中的inplace=True的含義是一樣的，是對于Conv2d這樣的上層網(wǎng)絡(luò)傳遞下來的tensor直接進(jìn)行修改，好處就是可以節(jié)省運(yùn)算內(nèi)存，不用多儲存變量y。

inplace=True means that it will modify the input directly, without allocating any additional output. It can sometimes slightly decrease the memory usage, but may not always be a valid operation (because the original input is destroyed). However, if you don't see an error, it means that your use case is valid.

以上為個人經(jīng)驗(yàn)，希望能給大家一個參考，也希望大家多多支持本站。

美國服務(wù)器租用

版權(quán)聲明：本站文章來源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有，歡迎引用、轉(zhuǎn)載，請保持原文完整并注明來源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站，禁止在非maisonbaluchon.cn所屬的服務(wù)器上建立鏡像，否則將依法追究法律責(zé)任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來，僅供學(xué)習(xí)參考，不代表本站立場，如有內(nèi)容涉嫌侵權(quán)，請聯(lián)系alex-e#qq.com處理。