עדכן את '*var' לפי אלגוריתם RMSProp.
שימו לב שביישום צפוף של אלגוריתם זה, ms ו-mom יתעדכנו גם אם ה-grad הוא אפס, אבל ביישום הדליל הזה, ms ו-mom לא יתעדכנו באיטרציות שבמהלכן הגראד הוא אפס.
mean_square = decay * mean_square + (1-decay) * gradient ** 2 Delta = learning_rate * gradient / sqrt(mean_square + epsilon)
$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$
כיתות מקוננות
מַחלָקָה | SparseApplyRmsProp.Options | תכונות אופציונליות עבור SparseApplyRmsProp |
קבועים
חוּט | OP_NAME | השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow |
שיטות ציבוריות
פלט <T> | asOutput () מחזירה את הידית הסמלית של הטנזור. |
סטטי <T מרחיב את TType > SparseApplyRmsProp <T> | |
פלט <T> | החוצה () זהה ל-"var". |
סטטי SparseApplyRmsProp.Options | useLocking (useLocking בוליאני) |
שיטות בירושה
קבועים
מחרוזת סופית סטטית ציבורית OP_NAME
השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow
שיטות ציבוריות
פלט ציבורי <T> asOutput ()
מחזירה את הידית הסמלית של הטנזור.
כניסות לפעולות TensorFlow הן יציאות של פעולת TensorFlow אחרת. שיטה זו משמשת להשגת ידית סמלית המייצגת את חישוב הקלט.
public static SparseApplyRmsProp <T> create ( Scope scope, Operand <T> var, Operand <T> ms, Operand <T> mom, Operand <T> lr, Operand <T> rho, Operand <T> מומנטום, Operand <T > epsilon, Operand <T> grad, Operand < מרחיב את המדדים של Tnumber , Options... options)
שיטת מפעל ליצירת מחלקה העוטפת פעולת SparseApplyRmsProp חדשה.
פרמטרים
תְחוּם | ההיקף הנוכחי |
---|---|
var | צריך להיות ממשתנה(). |
גְבֶרֶת | צריך להיות ממשתנה(). |
אִמָא | צריך להיות ממשתנה(). |
lr | גורם קנה מידה. חייב להיות סקלר. |
rho | קצב דעיכה. חייב להיות סקלר. |
אפסילון | מונח רכס. חייב להיות סקלר. |
גראד | השיפוע. |
מדדים | וקטור של מדדים למימד הראשון של var, ms ו-mom. |
אפשרויות | נושא ערכי תכונות אופציונליות |
מחזיר
- מופע חדש של SparseApplyRmsProp
סטטי ציבורי SparseApplyRmsProp.Options useLocking (שימוש בוליאני)
פרמטרים
השתמש בנעילה | אם 'נכון', עדכון הטנזורים var, ms ו-mom מוגן על ידי מנעול; אחרת ההתנהגות אינה מוגדרת, אך עלולה להפגין פחות מחלוקת. |
---|