ascendie.ActivationKind

relu

表示 ReLU 激活函数。

sigmoid

表示 Sigmoid 激活函数。

leaky_relu

表示 LeakyRelu 激活函数。

clip

表示 CLIP 激活函数。

hard_sigmoid

表示 Hard Sigmoid 激活函数。

tanh

表示 Tanh 激活函数。

swish

表示 Swish 激活函数。