Perbarui '*var' sesuai dengan algoritma Adam.
$$lr_t := \text{learning\_rate} * \sqrt{1 - beta_2^t} / (1 - beta_1^t)$$$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$$$variable := variable - lr_t * m_t / (\sqrt{v_t} + \epsilon)$$
Kelas Bersarang
kelas | TerapkanAdam.Options | Atribut opsional untuk ApplyAdam |
Konstanta
Rangkaian | OP_NAME | Nama operasi ini dikenal dengan mesin inti TensorFlow |
Metode Publik
Keluaran <T> | sebagai Keluaran () Mengembalikan pegangan simbolik tensor. |
statis <T memperluas TType > ApplyAdam <T> | buat ( Lingkup lingkup , Operand <T> var, Operand <T> m, Operand <T> v, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T> beta1, Operand <T > beta2, Operan <T> epsilon, Operan <T> lulusan, Opsi... opsi) Metode pabrik untuk membuat kelas yang membungkus operasi ApplyAdam baru. |
Keluaran <T> | keluar () Sama seperti "var". |
ApplyAdam.Options statis | useLocking (penguncian penggunaan Boolean) |
ApplyAdam.Options statis | useNesterov (Boolean useNesterov) |
Metode Warisan
Konstanta
String akhir statis publik OP_NAME
Nama operasi ini dikenal dengan mesin inti TensorFlow
Metode Publik
Keluaran publik <T> sebagai Keluaran ()
Mengembalikan pegangan simbolis tensor.
Masukan ke operasi TensorFlow adalah keluaran dari operasi TensorFlow lainnya. Metode ini digunakan untuk mendapatkan pegangan simbolis yang mewakili perhitungan input.
public static ApplyAdam <T> buat ( Lingkup lingkup , Operan <T> var, Operan <T> m, Operan <T> v, Operan <T> beta1Power, Operan <T> beta2Power, Operan <T> lr, Operan <T > beta1, Operan <T> beta2, Operan <T> epsilon, Operan <T> lulusan, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi ApplyAdam baru.
Parameter
cakupan | ruang lingkup saat ini |
---|---|
var | Harus dari Variabel(). |
M | Harus dari Variabel(). |
ay | Harus dari Variabel(). |
beta1Kekuatan | Pasti skalar. |
beta2Kekuatan | Pasti skalar. |
lr | Faktor skala. Pasti skalar. |
beta1 | Faktor momentum. Pasti skalar. |
beta2 | Faktor momentum. Pasti skalar. |
epsilon | Istilah punggungan. Pasti skalar. |
lulusan | Gradien. |
pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru dari ApplyAdam
ApplyAdam.Options useLocking statis publik (Boolean useLocking)
Parameter
gunakan Penguncian | Jika `True`, pembaruan tensor var, m, dan v akan dilindungi oleh kunci; jika tidak, perilaku tersebut tidak terdefinisikan, namun mungkin menunjukkan lebih sedikit pertentangan. |
---|
public static ApplyAdam.Options useNesterov (Boolean useNesterov)
Parameter
gunakanNesterov | Jika `True`, gunakan pembaruan nesterov. |
---|