"*var" را طبق الگوریتم Adam به روز کنید.
$$lr_t := \text{learning\_rate} * \sqrt{1 - beta_2^t} / (1 - beta_1^t)$$$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$$$variable := variable - lr_t * m_t / (\sqrt{v_t} + \epsilon)$$
کلاس های تو در تو
کلاس | ApplyAdam.Options | ویژگی های اختیاری برای ApplyAdam |
ثابت ها
رشته | OP_NAME | نام این عملیات، همانطور که توسط موتور هسته TensorFlow شناخته می شود |
روش های عمومی
خروجی <T> | asOutput () دسته نمادین تانسور را برمی گرداند. |
static <T TType > ApplyAdam <T> را گسترش می دهد | ایجاد ( دامنه دامنه ، عملوند <T> var، عملوند <T> m، عملوند <T> v، عملوند <T> beta1Power، عملوند <T> beta2Power، عملوند <T> lr، عملوند <T> beta1، عملوند <T> > beta2، Operand <T> epsilon، Operand <T> grad، Options... گزینهها) روش Factory برای ایجاد کلاسی که یک عملیات ApplyAdam جدید را بسته بندی می کند. |
خروجی <T> | بیرون () همان "var". |
استاتیک ApplyAdam.Options | useLocking (قفل کردن استفاده بولی) |
استاتیک ApplyAdam.Options | useNesterov (استفاده بولی Nesterov) |
روش های ارثی
ثابت ها
رشته نهایی ثابت عمومی OP_NAME
نام این عملیات، همانطور که توسط موتور هسته TensorFlow شناخته می شود
روش های عمومی
خروجی عمومی <T> asOutput ()
دسته نمادین تانسور را برمی گرداند.
ورودی های عملیات TensorFlow خروجی های عملیات تنسورفلو دیگر هستند. این روش برای به دست آوردن یک دسته نمادین که نشان دهنده محاسبه ورودی است استفاده می شود.
عمومی استاتیک ApplyAdam <T> ایجاد ( دامنه دامنه ، عملوند <T> var، عملوند <T> m، عملوند <T> v، عملوند <T> beta1Power، عملوند <T> beta2Power، عملوند <T> lr، عملوند <T > beta1، Operand <T> beta2، Operand <T> epsilon، Operand <T> grad، Options... گزینهها)
روش Factory برای ایجاد کلاسی که یک عملیات ApplyAdam جدید را بسته بندی می کند.
مولفه های
محدوده | محدوده فعلی |
---|---|
var | باید از یک متغیر () باشد. |
متر | باید از یک متغیر () باشد. |
v | باید از یک متغیر () باشد. |
beta1Power | باید اسکالر باشد. |
beta2Power | باید اسکالر باشد. |
lr | ضریب پوسته پوسته شدن باید اسکالر باشد. |
بتا 1 | عامل حرکت. باید اسکالر باشد. |
بتا2 | عامل حرکت. باید اسکالر باشد. |
اپسیلون | ترم ریج. باید اسکالر باشد. |
درجه | گرادیان. |
گزینه ها | مقادیر ویژگی های اختیاری را حمل می کند |
برمی گرداند
- یک نمونه جدید از ApplyAdam
عمومی استاتیک ApplyAdam.Options useLocking (useLocking بولی)
مولفه های
استفاده از قفل کردن | اگر «درست» باشد، بهروزرسانی تانسورهای var، m و v توسط یک قفل محافظت میشود. در غیر این صورت رفتار تعریف نشده است، اما ممکن است اختلاف کمتری از خود نشان دهد. |
---|
عمومی استاتیک ApplyAdam.Options useNesterov (بولی useNesterov)
مولفه های
استفاده از نستروف | اگر «درست» باشد، از بهروزرسانی nesterov استفاده میکند. |
---|