Swish

klasa publiczna Swish

Funkcja aktywacji Swish. swish(x) = x * sigmoid(x) .

Funkcja aktywacji Swish, która zwraca x*sigmoid(x) . Jest to płynna, niemonotoniczna funkcja, która konsekwentnie dorównuje lub przewyższa ReLU w głębokich sieciach, jest nieograniczona powyżej i ograniczona poniżej.

Przykładowe użycie:

     Operand<TFloat32> input = tf.constant(new float[]
                                        {-20, -1.0, 0.0, 1.0, 20});
     Swish<TFloat32> swish = new Swish<>(tf);
     Operand<TFloat32> result = swish.call(input);
     // result = [-4.1223075e-08f, -2.6894143e-01f,  0.0000000e+00f,
     //          7.3105860e-01f,  2.0000000e+01f ]

Zobacz także

Konstruktorzy publiczni

Świst (Ops tf)
Tworzy aktywację Swish, swish(x) = x * sigmoid(x) .

Metody publiczne

Argument <T>
wywołanie (wejście argumentu <T>)
Pobiera operację obliczeniową dla aktywacji.

Metody dziedziczone

Konstruktorzy publiczni

publiczny świst (Ops tf)

Tworzy aktywację Swish, swish(x) = x * sigmoid(x) .

Funkcja aktywacji Swish, która zwraca x*sigmoid(x) . Jest to płynna, niemonotoniczna funkcja, która konsekwentnie dorównuje lub przewyższa ReLU w głębokich sieciach, jest nieograniczona powyżej i ograniczona poniżej.

Parametry
tf operacji TensorFlow

Metody publiczne

publiczne wywołanie argumentu <T> (wejście argumentu <T>)

Pobiera operację obliczeniową dla aktywacji.

Parametry
wejście tensor wejściowy
Powroty
  • Operand aktywacji