SparseApplyRmsProp

الفئة النهائية العامة SparseApplyRmsProp

قم بتحديث '*var' وفقًا لخوارزمية RMSProp.

لاحظ أنه في التنفيذ المكثف لهذه الخوارزمية، سيتم تحديث ms وmom حتى لو كان grad صفرًا، ولكن في هذا التنفيذ المتناثر، لن يتم تحديث ms وmom في التكرارات التي يكون خلالها grad صفرًا.

mean_square = الاضمحلال * mean_square + (1-الاضمحلال) * التدرج ** 2 دلتا = معدل التعلم * التدرج / sqrt (mean_square + epsilon)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$

فئات متداخلة

فصل SparseApplyRmsProp.Options السمات الاختيارية لـ SparseApplyRmsProp

الثوابت

خيط OP_NAME اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي

الأساليب العامة

الإخراج <T>
كإخراج ()
إرجاع المقبض الرمزي للموتر.
ثابت <T يمتد TType > SparseApplyRmsProp <T>
إنشاء (نطاق النطاق ، المعامل <T> فار، المعامل <T> مللي ثانية، المعامل <T> أمي، المعامل <T> lr، المعامل <T> rho، المعامل <T> الزخم، المعامل <T> إبسيلون، المعامل <T > غراد، المعامل <؟ يمتد TNumber > المؤشرات، الخيارات... الخيارات)
طريقة المصنع لإنشاء فئة تغلف عملية SparseApplyRmsProp جديدة.
الإخراج <T>
خارج ()
نفس "فار".
ثابت SparseApplyRmsProp.Options
useLocking (استخدام منطقي منطقي)

الطرق الموروثة

الثوابت

السلسلة النهائية الثابتة العامة OP_NAME

اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي

القيمة الثابتة: "SparseApplyRMSProp"

الأساليب العامة

الإخراج العام <T> كإخراج ()

إرجاع المقبض الرمزي للموتر.

المدخلات إلى عمليات TensorFlow هي مخرجات عملية TensorFlow أخرى. يتم استخدام هذه الطريقة للحصول على مقبض رمزي يمثل حساب الإدخال.

إنشاء SparseApplyRmsProp <T> ثابت عام (نطاق النطاق ، المعامل <T> var، المعامل <T> مللي ثانية، المعامل <T> أمي، المعامل <T> lr، المعامل <T> rho، المعامل <T> الزخم، المعامل <T > إبسيلون، المعامل <T> غراد، المعامل <؟ يمتد TNumber > المؤشرات، الخيارات... الخيارات)

طريقة المصنع لإنشاء فئة تغلف عملية SparseApplyRmsProp جديدة.

حدود
نِطَاق النطاق الحالي
فار يجب أن يكون من متغير ().
آنسة يجب أن يكون من متغير ().
أم يجب أن يكون من متغير ().
lr عامل التحجيم. يجب أن يكون العددية.
rho معدل الاضمحلال. يجب أن يكون العددية.
إبسيلون مصطلح ريدج. يجب أن يكون العددية.
خريج التدرج.
المؤشرات متجه للمؤشرات في البعد الأول لـ var وms وmom.
خيارات يحمل قيم السمات الاختيارية
المرتجعات
  • مثيل جديد من SparseApplyRmsProp

الإخراج العام <T> خارج ()

نفس "فار".

SparseApplyRmsProp.Options العام الثابت useLocking (الاستخدام المنطقي)

حدود
useLocking إذا كان "صحيحًا"، فإن تحديث الموترات var وms وmom محمي بقفل؛ وإلا فإن السلوك غير محدد، ولكنه قد يحمل قدرًا أقل من الخلاف.