Operasi yang melakukan pembaruan gradien tabel penyematan.
Argumen gradien adalah TensorList yang memiliki panjang dan bentuk yang sama dengan nilai kembalian XlaRecvTPUEmbeddingActivations, tetapi berisi gradien hilangnya model sehubungan dengan aktivasi penyematan. Tabel penyematan diperbarui dari gradien ini melalui pengoptimal yang ditentukan dalam proto TPUEmbeddingConfiguration yang diberikan ke tpu.initialize_system.
Metode Publik
XlaSendTPUEmbeddingGradients statis |
Metode yang Diwarisi
Metode Publik
public static XlaSendTPUEmbeddingGradients create ( Scope scope, Iterable< Operand <Float>> gradients, Iterable< Operand <Float>> learningRates, Operand <?> deduplicationData, String config)
Metode pabrik untuk membuat kelas yang membungkus operasi XlaSendTPUEmbeddingGradients baru.
Parameter
cakupan | lingkup saat ini |
---|---|
gradien | TensorList gradien yang digunakan untuk memperbarui tabel penyematan. |
Tarif belajar | TensorList kecepatan pembelajaran yang digunakan untuk memperbarui tabel penyematan melalui pengoptimal. Panjang TensorList harus sama dengan jumlah tag kecepatan pembelajaran dinamis yang ditentukan dalam proto TPUEmbeddingConfiguration. |
data deduplikasi | Tensor dengan type=DT_VARIANT yang berisi data deduplikasi. Tensor adalah tupel bersarang XLA yang berisi elemen N (dengan N adalah rasio jumlah penyematan ke inti tensor per chip TPU). Setiap elemen tupel bersarang adalah tupel tensor peringkat 1. Setiap tensor berisi indeks (DT_UINT32) untuk menyematkan pencarian pada TensorCore atau bobot (DT_FLOAT) untuk diterapkan ke output dari operasi pencarian penyematan. |
konfigurasi | Proto konfigurasi TPUEbeddingConfiguration berseri. |
Kembali
- contoh baru dari XlaSendTPUEmbeddingGradients