Perbarui '*var' sesuai dengan algoritma Adam.
$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{v_t} + \epsilon)$$
Kelas Bersarang
kelas | ResourceApplyAdam.Options | Atribut opsional untuk ResourceApplyAdam |
Konstanta
Rangkaian | OP_NAME | Nama operasi ini dikenal dengan mesin inti TensorFlow |
Metode Publik
statis <T memperluas TType > ResourceApplyAdam | buat ( Lingkup lingkup , Operand <?> var, Operand <?> m, Operand <?> v, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T> beta1, Operand <T > beta2, Operan <T> epsilon, Operan <T> lulusan, Opsi... opsi) Metode pabrik untuk membuat kelas yang membungkus operasi ResourceApplyAdam baru. |
ResourceApplyAdam.Options statis | useLocking (penguncian penggunaan Boolean) |
ResourceApplyAdam.Options statis | useNesterov (Boolean useNesterov) |
Metode Warisan
Konstanta
String akhir statis publik OP_NAME
Nama operasi ini dikenal dengan mesin inti TensorFlow
Metode Publik
public static ResourceApplyAdam buat ( Ruang lingkup , Operan <?> var, Operan <?> m, Operan <?> v, Operan <T> beta1Power, Operan <T> beta2Power, Operan <T> lr, Operan <T> beta1, Operan <T> beta2, Operan <T> epsilon, Operan <T> grad, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi ResourceApplyAdam baru.
Parameter
cakupan | ruang lingkup saat ini |
---|---|
var | Harus dari Variabel(). |
M | Harus dari Variabel(). |
ay | Harus dari Variabel(). |
beta1Kekuatan | Pasti skalar. |
beta2Kekuatan | Pasti skalar. |
lr | Faktor skala. Pasti skalar. |
beta1 | Faktor momentum. Pasti skalar. |
beta2 | Faktor momentum. Pasti skalar. |
epsilon | Istilah punggung bukit. Pasti skalar. |
lulusan | Gradien. |
pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru ResourceApplyAdam
ResourceApplyAdam.Options useLocking statis publik (Boolean useLocking)
Parameter
gunakan Penguncian | Jika `True`, pembaruan tensor var, m, dan v akan dilindungi oleh kunci; jika tidak, perilaku tersebut tidak terdefinisikan, namun mungkin menunjukkan lebih sedikit pertentangan. |
---|
ResourceApplyAdam.Options statis publik useNesterov (Boolean useNesterov)
Parameter
gunakanNesterov | Jika `True`, gunakan pembaruan nesterov. |
---|