قم بتحديث '*var' وفقًا لخوارزمية Adam.
$$lr_t := \text{learning\_rate} * \sqrt{1 - beta_2^t} / (1 - beta_1^t)$$$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$$$variable := variable - lr_t * m_t / (\sqrt{v_t} + \epsilon)$$
فئات متداخلة
| فصل | ApplyAdam.Options | السمات الاختيارية لـ ApplyAdam | |
الثوابت
| خيط | OP_NAME | اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي |
الأساليب العامة
| الإخراج <T> | كإخراج () إرجاع المقبض الرمزي للموتر. |
| ثابت <T يمتد TType > ApplyAdam <T> | |
| الإخراج <T> | خارج () نفس "فار". |
| تطبيق ApplyAdam.Options ثابت | useLocking (استخدام منطقي منطقي) |
| تطبيق ApplyAdam.Options ثابت | استخدام نيستيروف (استخدام منطقي نيستيروف) |
الطرق الموروثة
الثوابت
السلسلة النهائية الثابتة العامة OP_NAME
اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي
الأساليب العامة
الإخراج العام <T> كإخراج ()
إرجاع المقبض الرمزي للموتر.
المدخلات إلى عمليات TensorFlow هي مخرجات عملية TensorFlow أخرى. يتم استخدام هذه الطريقة للحصول على مقبض رمزي يمثل حساب الإدخال.
ثابت عام ApplyAdam <T> إنشاء (نطاق النطاق ، المعامل <T> var، المعامل <T> m، المعامل <T> v، المعامل <T> beta1Power، المعامل <T> beta2Power، المعامل <T> lr، المعامل <T > beta1، المعامل <T> beta2، المعامل <T> إبسيلون، المعامل <T> غراد، خيارات... خيارات)
طريقة المصنع لإنشاء فئة تغلف عملية ApplyAdam جديدة.
حدود
| نِطَاق | النطاق الحالي |
|---|---|
| فار | يجب أن يكون من متغير (). |
| م | يجب أن يكون من متغير (). |
| ضد | يجب أن يكون من متغير (). |
| beta1Power | يجب أن يكون العددية. |
| beta2Power | يجب أن يكون العددية. |
| lr | عامل التحجيم. يجب أن يكون العددية. |
| بيتا1 | عامل الزخم. يجب أن يكون العددية. |
| بيتا2 | عامل الزخم. يجب أن يكون العددية. |
| إبسيلون | مصطلح ريدج. يجب أن يكون العددية. |
| خريج | التدرج. |
| خيارات | يحمل قيم السمات الاختيارية |
المرتجعات
- مثيل جديد من ApplyAdam
تطبيق ApplyAdam.Options العام الثابت useLocking (الاستخدام المنطقي Boolean useLocking)
حدود
| useLocking | إذا كان "صحيحًا"، فسيتم حماية تحديث الموترات var وm وv بواسطة قفل؛ وإلا فإن السلوك غير محدد، ولكنه قد يحمل قدرًا أقل من الخلاف. |
|---|
تطبيق ApplyAdam.Options العام الثابت useNesterov (الاستخدام المنطقي Nesterov)
حدود
| استخدم نيستيروف | إذا كان "صحيحًا"، يستخدم تحديث Nesterov. |
|---|