יחידה לינארית מעריכית.
היחידה הלינארית המעריכית (ELU) עם alpha > 0
היא:
x
אם x > 0
alpha * (exp(x) - 1)
אם x < 0
.
alpha
ההיפרפרמטר ELU שולט בערך שאליו רווי ELU עבור תשומות נטו שליליות. ELUs מפחיתים את אפקט השיפוע הנעלם.
ל-ELUs יש ערכים שליליים שדוחפים את ממוצע ההפעלה קרוב יותר לאפס. הפעלות ממוצעות הקרובות יותר לאפס מאפשרות למידה מהירה יותר שכן הן מקרבות את השיפוע לשיפוע הטבעי. ELUs רוויים לערך שלילי כאשר הארגומנט הולך וקטן. רוויה פירושה נגזרת קטנה שמקטינה את השונות ואת המידע שמופץ לשכבה הבאה.
שימוש לדוגמה:
Operand<TFloat32> input = ...; ELU<TFloat32> elu = new ELU<>(tf, 2.0f); Operand<TFloat32> result = elu.call(input);
בונים ציבוריים
ELU (Ops tf) יוצר ELU חדש עם alpha= ERROR(/#ALPHA_DEFAULT) . | |
ELU (Ops tf, כפול אלפא) יוצר ELU חדש |
שיטות ציבוריות
אופרנד <T> |
שיטות בירושה
בונים ציבוריים
ELU ציבורי (Ops tf, כפול אלפא)
יוצר ELU חדש
פרמטרים
tf | ה- TensorFlow Ops |
---|---|
אלפא | שיפוע סקלרי של חתך שלילי. הוא שולט בערך שאליו רווי ELU עבור תשומות נטו שליליות. |