Gömme tablolarının degrade güncellemelerini gerçekleştiren bir işlem.
Gradyanlar argümanı, XlaRecvTPUEmbeddingActivations'ın dönüş değeriyle aynı uzunluğa ve şekillere sahip olan bir TensorList'tir ancak gömme aktivasyonlarına göre modelin kaybının gradyanlarını içerir. Gömme tabloları, tpu.initialize_system'e verilen TPUEmbeddingConfiguration protokolünde belirtilen optimize edici aracılığıyla bu degradelerden güncellenir.
Genel Yöntemler
statik XlaSendTPUEyerleştirmeDegradeler |
Kalıtsal Yöntemler
Genel Yöntemler
public static XlaSendTPUEmbeddingGradients create ( Kapsam kapsamı, Yinelenebilir< İşlenen <Float>> degradeler, Yinelenebilir< İşlenen <Float>> öğrenmeRates, İşlenen <?> tekilleştirmeVerileri, Dize yapılandırması)
Yeni bir XlaSendTPUEmbeddingGradients işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi.
Parametreler
kapsam | mevcut kapsam |
---|---|
degradeler | Gömme tablolarının güncelleneceği degradelerin TensorList'i. |
öğrenmeOranları | Optimize edici aracılığıyla gömme tablolarını güncellemek için kullanılan öğrenme oranlarının TensorList'i. TensorList'in uzunluğu, TPUEmbeddingConfiguration protokolünde belirtilen dinamik öğrenme oranı etiketlerinin sayısına eşit olmalıdır. |
tekilleştirmeVerileri | Tekilleştirme verilerini içeren =DT_VARIANT tipine sahip bir Tensör. Tensör, N öğe içeren bir XLA yuvalanmış demettir (burada N, TPU çipi başına gömme sayısının tensör çekirdeklerine oranıdır). İç içe geçmiş demetin her elemanı, 1. derece tensörlerden oluşan bir demettir. Her tensör ya TensorCore'a gömme araması için indeksler (DT_UINT32) ya da gömme arama işleminin çıktısına uygulanacak ağırlıklar (DT_FLOAT) içerir. |
yapılandırma | Serileştirilmiş TPUEmbedddingConfiguration protokolü. |
İadeler
- yeni bir XlaSendTPUEmbeddingGradients örneği