• Home
  • Line#
  • Scopes#
  • Navigate#
  • Raw
  • Download
1mindspore.mint.nn.functional.silu
2==================================
3
4.. py:function:: mindspore.mint.nn.functional.silu(input)
5
6    逐元素计算激活函数SiLU（Sigmoid Linear Unit）。有时也被称作Swish函数。该激活函数定义为：
7
8    .. math::
9        \text{SiLU}(x) = x * \sigma(x),
10
11    其中 :math:`x` 是输入的元素， :math:`\sigma(x)` 是Sigmoid函数。
12
13    .. math::
14
15        \text{sigma}(x_i) = \frac{1}{1 + \exp(-x_i)},
16
17    SiLU函数图：
18
19    .. image:: ../images/SiLU.png
20        :align: center
21
22    参数：
23        - **input** (Tensor) - `input` 即为上述公式中的 :math:`x`。数据类型为float16或float32的输入。
24
25    返回：
26        Tensor，数据类型和shape与 `input` 的相同。
27
28    异常：
29        - **TypeError** - `input` 的数据类型既不是float16也不是float32。
30