mindspore.mint.nn.Hardswish

查看源文件
class mindspore.mint.nn.Hardswish[源代码]

逐元素计算Hard Swish激活函数。

Hard Swish定义如下:

\[\begin{split}\text{HardSwish}(input) = \begin{cases} 0, & \text{ if } input \leq -3, \\ input, & \text{ if } input \geq +3, \\ input*(input + 3)/6, & \text{ otherwise } \end{cases}\end{split}\]

HardSwish函数图:

../../_images/Hardswish.png
输入:
  • input (Tensor) - 输入Tensor。

输出:

Tensor,输出tensor的数据类型和shape与输入相同。

支持平台:

Ascend

样例:

>>> import mindspore
>>> import numpy as np
>>> input = mindspore.Tensor(np.array([-1, -2, 0, 2, 1]), mindspore.float16)
>>> hswish = mindspore.mint.nn.Hardswish()
>>> result = hswish(input)
>>> print(result)
[-0.3333 -0.3333  0.      1.667   0.6665]