Üstel doğrusal birim.
alpha > 0
olan üstel doğrusal birim (ELU):
x
eğer x > 0
ve alpha * (exp(x) - 1)
eğer x < 0
ise.
ELU hiperparametresi alpha
bir ELU'nun negatif net girişler için doyduğu değeri kontrol eder. ELU'lar kaybolan gradyan etkisini azaltır.
ELU'lar, aktivasyonların ortalamasını sıfıra yaklaştıran negatif değerlere sahiptir. Sıfıra yakın olan ortalama aktivasyonlar, gradyanı doğal gradyana yaklaştırdığından daha hızlı öğrenmeyi mümkün kılar. Argüman küçüldüğünde ELU'lar negatif bir değere doyar. Doygunluk, varyasyonu azaltan ve bir sonraki katmana yayılan bilgiyi azaltan küçük bir türev anlamına gelir.
Örnek Kullanım:
Operand<TFloat32> input = ...; ELU<TFloat32> elu = new ELU<>(tf, 2.0f); Operand<TFloat32> result = elu.call(input);
Kamu İnşaatçıları
ELU (Ops tf) alpha= ERROR(/#ALPHA_DEFAULT) ile yeni bir ELU oluşturur. | |
ELU (Ops tf, çift alfa) Yeni bir ELU oluşturur |
Genel Yöntemler
İşlenen <T> |
Kalıtsal Yöntemler
Kamu İnşaatçıları
halka açık ELU (Ops tf)
alpha= ERROR(/#ALPHA_DEFAULT)
ile yeni bir ELU oluşturur.
Parametreler
TF | TensorFlow Operasyonları |
---|
genel ELU (Ops tf, çift alfa)
Yeni bir ELU oluşturur
Parametreler
TF | TensorFlow Operasyonları |
---|---|
alfa | Negatif bölümün skaler eğimi. Bir ELU'nun negatif net girişler için doyduğu değeri kontrol eder. |