Operasi yang memuat parameter pengoptimalan ke dalam memori penyematan.
Operasi yang memuat parameter pengoptimalan ke dalam memori penyematan. Harus didahului oleh operasi ConfigureTPUEmbbeddingHost yang menyiapkan konfigurasi tabel penyematan yang benar. Misalnya, operasi ini digunakan untuk menginstal parameter yang dimuat dari pos pemeriksaan sebelum loop pelatihan dijalankan. Untuk Adagrad, tambahan1 harus menjadi akumulator. Untuk SGD, semua nilai tambahan* harus kosong. Untuk FTRL, bantu1 harus menjadi akumulator dan bantu2 harus menjadi istilah linier. Untuk ADAM, bantu1 harus menjadi momentum dan bantu2 harus menjadi kecepatan.
Metode Publik
LoadAllTPUEbeddingParameters statis | buat ( Scope scope, Iterable< Operand <Float>> parameter, Iterable< Operand <Float>> auxiliary1, Iterable< Operand <Float>> auxiliary2, Iterable< Operand <Float>> auxiliary3, Iterable< Operand <Float>> auxiliary4, Iterable< Operand <Float>> auxiliary5, Iterable< Operand <Float>> auxiliary6, Iterable< Operand <Float>> auxiliary7, String config, Long numShards, Long shardId) Metode pabrik untuk membuat kelas yang membungkus operasi LoadAllTPUEmbeddingParameters baru. |
Metode yang Diwarisi
Metode Publik
public static LoadAllTPUEmbeddingParameters create ( Scope scope, Iterable< Operand <Float>> parameter, Iterable< Operand <Float>> auxiliary1, Iterable< Operand <Float>> auxiliary2, Iterable< Operand <Float>> auxiliary3, Iterable< Operand <Float> > bantu4, Iterable< Operand <Float>> auxiliary5, Iterable< Operand <Float>> auxiliary6, Iterable< Operand <Float>> auxiliary7, String config, Long numShards, Long shardId)
Metode pabrik untuk membuat kelas yang membungkus operasi LoadAllTPUEmbeddingParameters baru.
Parameter
cakupan | lingkup saat ini |
---|---|
parameter | Daftar tensor, satu untuk setiap tabel penyematan, berisi parameter tabel penyematan awal untuk digunakan dalam pencarian penyematan. |
bantu1 | Daftar tensor, satu untuk setiap tabel penyematan, yang berisi nilai awal parameter pengoptimalan bantu pertama yang digunakan dalam penyematan pembaruan loop pelatihan. Bentuk setiap entri diabaikan (dan dengan demikian bisa kosong) untuk tabel-tabel yang algoritme pengoptimalannya tidak memiliki setidaknya satu parameter tambahan. |
pembantu2 | Daftar tensor, satu untuk setiap tabel penyematan, yang berisi nilai awal parameter pengoptimalan tambahan kedua untuk digunakan dalam penyematan pembaruan loop pelatihan. Bentuk setiap entri diabaikan (dan dengan demikian bisa kosong) untuk tabel-tabel yang algoritme pengoptimalannya tidak memiliki setidaknya dua tambahan |
bantu3 | Daftar tensor, satu untuk setiap tabel penyematan, yang berisi nilai awal parameter pengoptimalan tambahan ketiga yang akan digunakan dalam menyematkan pembaruan loop pelatihan. Bentuk setiap entri diabaikan (dan dengan demikian bisa kosong) untuk tabel-tabel yang algoritme pengoptimalannya tidak memiliki tiga parameter tambahan. |
bantu4 | Daftar tensor, satu untuk setiap tabel penyematan, yang berisi nilai awal parameter pengoptimalan tambahan kedua untuk digunakan dalam penyematan pembaruan loop pelatihan. Bentuk setiap entri diabaikan (dan dengan demikian bisa kosong) untuk tabel yang algoritma pengoptimalannya tidak memiliki setidaknya empat tambahan |
bantu5 | Daftar tensor, satu untuk setiap tabel penyematan, yang berisi nilai awal parameter pengoptimalan tambahan ketiga yang akan digunakan dalam menyematkan pembaruan loop pelatihan. Bentuk setiap entri diabaikan (dan dengan demikian bisa kosong) untuk tabel-tabel yang algoritme pengoptimalannya tidak memiliki lima parameter tambahan. |
bantu6 | Daftar tensor, satu untuk setiap tabel penyematan, yang berisi nilai awal parameter pengoptimalan tambahan kedua untuk digunakan dalam penyematan pembaruan loop pelatihan. Bentuk setiap entri diabaikan (dan dengan demikian bisa kosong) untuk tabel-tabel yang algoritme pengoptimalannya tidak memiliki setidaknya enam tambahan |
bantu7 | Daftar tensor, satu untuk setiap tabel penyematan, yang berisi nilai awal parameter pengoptimalan tambahan ketiga yang akan digunakan dalam menyematkan pembaruan loop pelatihan. Bentuk setiap entri diabaikan (dan dengan demikian bisa kosong) untuk tabel-tabel yang algoritme pengoptimalannya tidak memiliki parameter tambahan sevan. |
konfigurasi | Proto TPUEmbeddingConfiguration yang menjelaskan parameter tabel yang dimuat, diserialisasi ke string. |
numShards | Jumlah pecahan tempat tabel penyematan dibagi. |
shardId | Pengenal pecahan untuk operasi ini. |
Kembali
- contoh baru dari LoadAllTPUEmbeddingParameters