PyTorch学习笔记:nn.Sigmoid——Sigmoid激活函数
torch.nn.Sigmoid()
功能:逐元素应用Sigmoid函数对数据进行激活,将元素归一化到区间(0,1)内
函数方程:
S
i
g
m
o
i
d
(
x
)
=
σ
(
x
)
=
1
1
+
e
−
x
Sigmoid(x)=\sigma(x)=\frac1{1+e^{-x}}
Sigmoid(x)=σ(x)=1+e−x1
上图来源于PyTorch官方文档
输入:
inplace
:是否改变输入数据,如果设置为True
,则会直接修改输入数据;如果设置为False
,则不对输入数据做修改
注意:
- 输入可以是任意尺寸的数据,输出尺寸与输入尺寸相同
代码案例
一般用法
import torch.nn as nn
import torch
a = torch.randn(10)
sigmoid = nn.Sigmoid()
b = sigmoid(a)
print(a)
print(b)
输出
# 数据经过sigmoid之前
tensor([-0.0175, -0.3315, -1.4424, -2.1318, 1.8448, -0.6835, -1.9436, 1.3432, 0.2550, 1.1898])
# 数据经过sigmoid之后
tensor([0.4956, 0.4179, 0.1912, 0.1060, 0.8635, 0.3355, 0.1252, 0.7930, 0.5634, 0.7667])
官方文档
nn.Sigmoid():https://pytorch.org/docs/stable/generated/torch.nn.Sigmoid.html#torch.nn.Sigmoid
初步完稿于:2022年1月29日