SendTPUEmbeddingGradients

כיתת גמר ציבורית SendTPUEmbeddingGradients

מבצע עדכוני שיפוע של טבלאות הטבעה.

שיטות ציבוריות

סטטי SendTPUEmbeddingGradients
create ( scope scope, Iterable< Operand <Float>> כניסות, Iterable< Operand <Float>> learningRates, String config)
שיטת מפעל ליצירת מחלקה העוטפת פעולת SendTPUEmbeddingGradients חדשה.

שיטות בירושה

שיטות ציבוריות

Public static SendTPUEmbeddingGradients create ( scope scope, Iterable< Operand <Float>> כניסות, Iterable< Operand <Float>> learningRates, String config)

שיטת מפעל ליצירת מחלקה העוטפת פעולת SendTPUEmbeddingGradients חדשה.

פרמטרים
תְחוּם ההיקף הנוכחי
תשומות רשימת Tensor של מעברים שבאמצעותם ניתן לעדכן טבלאות הטמעה. לארגומנט זה יש את אותו אורך וצורות כמו ערך ההחזרה של RecvTPUEmbeddingActivations, אך מכיל גרדיאנטים של אובדן המודל ביחס להפעלות ההטמעה. טבלאות ההטמעה מתעדכנות מהדרגות אלו באמצעות האופטימיזציה שצוינה בתצורת ההטמעה של TPU שניתנה ל-tpu.initialize_system.
שיעורי למידה רשימת Tensor של סקלרים של float32, אחד עבור כל תג קצב למידה דינמי: ראה את ההערות ב- //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto. טבלאות מרובות יכולות לחלוק את אותו תג קצב למידה דינמי כפי שצוין בתצורה. אם שיעורי הלמידה עבור כל הטבלאות קבועים, רשימה זו צריכה להיות ריקה.
תצורה פרוטו TPUEmbeddingConfiguration מסודר.
החזרות
  • מופע חדש של SendTPUEmbeddingGradients