ResourceApplyAdamWithAmsgrad

כיתת גמר ציבורית ResourceApplyAdamWithAmsgrad

עדכן את '*var' לפי אלגוריתם Adam.

$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$$$\hat{v}_t := max{\hat{v}_{t-1}, v_t}$$$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{\hat{v}_t} + \epsilon)$$

כיתות מקוננות

מעמד ResourceApplyAdamWithAmsgrad.Options תכונות אופציונליות עבור ResourceApplyAdamWithAmsgrad

שיטות ציבוריות

סטטי <T> ResourceApplyAdamWithAmsgrad
create ( Scope scope, Operand <?> var, Operand <?> m, Operand <?> v, Operand <?> vhat, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T > beta1, Operand <T> beta2, Operand <T> epsilon, Operand <T> grad, Options... options)
שיטת מפעל ליצירת מחלקה העוטפת פעולת ResourceApplyAdamWithAmsgrad חדשה.
static ResourceApplyAdamWithAmsgrad.Options
useLocking (useLocking בוליאני)

שיטות בירושה

שיטות ציבוריות

public static ResourceApplyAdamWithAmsgrad create ( Scope scope, Operand <?> var, Operand <?> m, Operand <?> v, Operand <?> vhat, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T> beta1, Operand <T> beta2, Operand <T> epsilon, Operand <T> grad, Options... options)

שיטת מפעל ליצירת מחלקה העוטפת פעולת ResourceApplyAdamWithAmsgrad חדשה.

פרמטרים
תְחוּם ההיקף הנוכחי
var צריך להיות ממשתנה().
M צריך להיות ממשתנה().
v צריך להיות ממשתנה().
מה צריך להיות ממשתנה().
beta1Power חייב להיות סקלר.
beta2Power חייב להיות סקלר.
lr גורם קנה מידה. חייב להיות סקלר.
בטא1 גורם מומנטום. חייב להיות סקלר.
בטא2 גורם מומנטום. חייב להיות סקלר.
אפסילון מונח רכס. חייב להיות סקלר.
גראד השיפוע.
אפשרויות נושא ערכי תכונות אופציונליות
החזרות
  • מופע חדש של ResourceApplyAdamWithAmsgrad

Public static ResourceApplyAdamWithAmsgrad.Options useLocking (שימוש בוליאני)

פרמטרים
השתמש בנעילה אם 'נכון', עדכון הטנזורים var, m ו-v יהיה מוגן על ידי מנעול; אחרת ההתנהגות אינה מוגדרת, אך עלולה להפגין פחות מחלוקת.