ApplyAdam

שיעור הגמר הציבורי ApplyAdam

עדכן את '*var' לפי אלגוריתם Adam.

$$lr_t := \text{learning\_rate} * \sqrt{1 - beta_2^t} / (1 - beta_1^t)$$$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$$$variable := variable - lr_t * m_t / (\sqrt{v_t} + \epsilon)$$

כיתות מקוננות

מעמד ApplyAdam.Options תכונות אופציונליות עבור ApplyAdam

קבועים

חוּט OP_NAME השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow

שיטות ציבוריות

פלט <T>
asOutput ()
מחזירה את הידית הסמלית של הטנזור.
סטטי <T מרחיב את TType > ApplyAdam <T>
create ( scope scope, Operand <T> var, Operand <T> m, Operand <T> v, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T> beta1, Operand <T > beta2, Operand <T> epsilon, Operand <T> grad, Options... options)
שיטת מפעל ליצירת מחלקה העוטפת פעולת ApplyAdam חדשה.
פלט <T>
החוצה ()
זהה ל-"var".
סטטי ApplyAdam.Options
useLocking (useLocking בוליאני)
סטטי ApplyAdam.Options
useNesterov (בוליאני useNesterov)

שיטות בירושה

קבועים

מחרוזת סופית סטטית ציבורית OP_NAME

השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow

ערך קבוע: "ApplyAdam"

שיטות ציבוריות

פלט ציבורי <T> asOutput ()

מחזירה את הידית הסמלית של הטנזור.

כניסות לפעולות TensorFlow הן יציאות של פעולת TensorFlow אחרת. שיטה זו משמשת להשגת ידית סמלית המייצגת את חישוב הקלט.

public static ApplyAdam <T> create ( Scope scope, Operand <T> var, Operand <T> m, Operand <T> v, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T > beta1, Operand <T> beta2, Operand <T> epsilon, Operand <T> grad, Options... options)

שיטת מפעל ליצירת מחלקה העוטפת פעולת ApplyAdam חדשה.

פרמטרים
תְחוּם ההיקף הנוכחי
var צריך להיות ממשתנה().
M צריך להיות ממשתנה().
v צריך להיות ממשתנה().
beta1Power חייב להיות סקלר.
beta2Power חייב להיות סקלר.
lr גורם קנה מידה. חייב להיות סקלר.
בטא1 גורם מומנטום. חייב להיות סקלר.
בטא2 גורם מומנטום. חייב להיות סקלר.
אפסילון מונח רכס. חייב להיות סקלר.
גראד השיפוע.
אפשרויות נושא ערכי תכונות אופציונליות
החזרות
  • מופע חדש של ApplyAdam

פלט ציבורי <T> החוצה ()

זהה ל-"var".

סטטי ציבורי ApplyAdam.Options useLocking (בוליאני useLocking)

פרמטרים
השתמש בנעילה אם 'נכון', עדכון הטנזורים var, m ו-v יהיה מוגן על ידי מנעול; אחרת ההתנהגות אינה מוגדרת, אך עלולה להפגין פחות מחלוקת.

public static ApplyAdam.Options useNesterov (בוליאני useNesterov)

פרמטרים
השתמש ב-Nesterov אם 'נכון', משתמש בעדכון Nestrov.